Le دستورالعمل هایی برای توسعه ایمن سیستم های هوش مصنوعی آنها طراحی شده اند تا توسعه دهندگان را به طور خاص از طریق طراحی، توسعه، پیاده سازی و بهره برداری از سیستم های هوش مصنوعی راهنمایی کنند و اطمینان حاصل کنند که امنیت یک جزء حیاتی در طول چرخه عمر آنها باقی می ماند. با این حال، سایر سهامداران در پروژه های هوش مصنوعی نیز باید این اطلاعات را مفید بدانند.
این دستورالعمل ها بلافاصله پس از تعهد رهبران جهان به توسعه ایمن و مسئولانه هوش مصنوعی در اجلاس ایمنی هوش مصنوعی در اوایل نوامبر منتشر شد.
دستورالعمل‌های توسعه سیستم‌های هوش مصنوعی ایمن توصیه‌هایی را برای اطمینان از اینکه مدل‌های هوش مصنوعی – چه از ابتدا ساخته شده باشند و چه بر اساس مدل‌های موجود یا APIهای سایر شرکت‌ها – «به نحوی که در نظر گرفته شده است کار می‌کنند، در صورت لزوم در دسترس هستند و بدون افشای داده‌های حساس به اشخاص غیرمجاز کار می‌کنند. . "
کلید این امر رویکرد «ایمن به طور پیش‌فرض» است که توسط NCSC، CISA، مؤسسه ملی استاندارد و فناوری و سایر آژانس‌های بین‌المللی امنیت سایبری در چارچوب‌های موجود حمایت می‌شود. اصول این چارچوب ها عبارتند از:
بر اساس گزارش NCSC، در مجموع 21 آژانس و وزارتخانه از مجموع 18 کشور تأیید کرده اند که دستورالعمل های جدید را تایید کرده و به صورت مشترک مهر و موم می کنند. این شامل آژانس امنیت ملی و دفتر تحقیقات فدرال در ایالات متحده، و همچنین مرکز کانادا برای امنیت سایبری، آژانس امنیت سایبری فرانسه، اداره فدرال امنیت سایبری آلمان، سنگاپور است. آژانس امنیت سایبری و مرکز ملی حوادث ژاپن. آماده سازی و استراتژی امنیت سایبری.
لیندی کامرون، مدیر اجرایی NCSC در این باره گفت یک بیانیه مطبوعاتی ما می دانیم که هوش مصنوعی با سرعتی خارق العاده در حال توسعه است و باید اقدامات هماهنگ بین المللی بین دولت ها و صنعت انجام شود تا همگام با آن همگام شود. ".
دستورالعمل‌های توسعه ایمن سیستم‌های هوش مصنوعی در چهار بخش ساختار یافته است که هر بخش مربوط به مراحل مختلف چرخه عمر توسعه یک سیستم هوش مصنوعی است: طراحی ایمن، توسعه ایمن، پیاده‌سازی ایمن، و بهره‌برداری و نگهداری ایمن.
این دستورالعمل‌ها برای همه انواع سیستم‌های هوش مصنوعی و نه فقط مدل‌های مرزی که در اجلاس ایمنی هوش مصنوعی که در تاریخ 1 و 2 نوامبر 2023 در بریتانیا برگزار شد، مورد بحث قرار گرفت. این دستورالعمل‌ها همچنین برای همه حرفه‌ای‌های کار در و در اطراف هوش مصنوعی، از جمله توسعه دهندگان، دانشمندان داده، مدیران، تصمیم گیرندگان، و سایر صاحبان ریسک هوش مصنوعی.
ما دستورالعمل‌ها را عمدتاً متوجه فروشندگان سیستم هوش مصنوعی کردیم که از مدل‌های میزبانی شده توسط یک سازمان استفاده می‌کنند (یا از APIهای خارجی استفاده می‌کنند)، اما ما همه طرف‌های علاقه‌مند را تشویق می‌کنیم که این دستورالعمل‌ها را مطالعه کنند تا به آنها در تصمیم‌گیری آگاهانه در زمینه طراحی، توسعه، پیاده‌سازی و عملیات خود کمک کنیم. سیستم های هوش مصنوعی» گفت: NCSC
در جریان اجلاس ایمنی هوش مصنوعی، که در سایت تاریخی بلچلی پارک در باکینگهام‌شر، انگلستان برگزار شد، نمایندگان 28 کشور جهان را امضا کردند. بیانیه بلچلی در مورد ایمنی هوش مصنوعی ، که اهمیت طراحی و پیاده سازی سیستم ها را برجسته می کند هوش مصنوعی ایمن و مسئولانه، با تاکید بر همکاری. و شفافیت
این بیانیه نیاز به پرداختن به خطرات مرتبط با مدل های پیشرفته هوش مصنوعی، به ویژه در زمینه هایی مانند امنیت فناوری اطلاعات و بیوتکنولوژی، و از همکاری بین المللی بیشتر برای اطمینان از استفاده ایمن، اخلاقی و سودمند حمایت می کند.IA.
میشل دونلان، وزیر علم و فناوری بریتانیا، گفت: دستورالعمل‌های جدید منتشر شده «امنیت سایبری را در مرکز توسعه قرار خواهد داد.هوش مصنوعی” از آغاز تا استقرار.
انتشار دستورالعمل درهوش مصنوعی مورد استقبال کارشناسان و تحلیلگران قرار گرفته است امنیت سایبری.
توبی لوئیس، رئیس جهانی تحلیل تهدید در Darktrace، این کار را انجام داده است defiراهنمای "یک پروژه استقبال" برای سیستم ها را به پایان رساند هوش مصنوعی امن و قابل اعتماد
لوئیس در اظهار نظر از طریق ایمیل گفت: "من خوشحالم که می بینم دستورالعمل ها نیاز به هوش مصنوعی از داده‌ها و مدل‌های خود در برابر مهاجمان محافظت می‌کنند و کاربران هوش مصنوعی از موارد مناسب استفاده می‌کنند هوش ساختگی برای کار درست کسانی که هوش مصنوعی را توسعه می‌دهند باید جلوتر رفته و با راهنمایی کاربران در مسیر رسیدن هوش مصنوعی به پاسخ‌ها، اعتماد ایجاد کنند. با اطمینان و اعتماد، ما فواید هوش مصنوعی را سریعتر و برای افراد بیشتری متوجه خواهیم شد.»
جورج آنیدجار، معاون اروپای جنوبی در انفورماتیکا، گفت که انتشار این دستورالعمل ها "گامی مهم در جهت رسیدگی به چالش های امنیت سایبری ذاتی در این زمینه به سرعت در حال توسعه" است.
BlogInnovazione.it
بخش دریایی یک قدرت واقعی اقتصادی جهانی است که به سمت یک بازار 150 میلیاردی حرکت کرده است.
دوشنبه گذشته، فایننشال تایمز از قراردادی با OpenAI خبر داد. FT مجوز روزنامه نگاری در سطح جهانی خود را صادر می کند…
میلیون‌ها نفر برای خدمات استریم پرداخت می‌کنند و هزینه اشتراک ماهانه می‌پردازند. این عقیده رایج است که شما…
Coveware توسط Veeam به ارائه خدمات پاسخگویی به حوادث اخاذی سایبری ادامه خواهد داد. Coveware قابلیت‌های پزشکی قانونی و اصلاحی را ارائه می‌دهد…
