Le المبادئ التوجيهية للتطوير الآمن لأنظمة الذكاء الاصطناعي وهي مصممة لتوجيه المطورين على وجه التحديد من خلال تصميم أنظمة الذكاء الاصطناعي وتطويرها وتنفيذها وتشغيلها والتأكد من بقاء الأمان عنصرًا حاسمًا طوال دورة حياتها. ومع ذلك، ينبغي أيضًا لأصحاب المصلحة الآخرين في مشاريع الذكاء الاصطناعي أن يجدوا هذه المعلومات مفيدة.
تم إصدار هذه المبادئ التوجيهية بعد وقت قصير من التزام قادة العالم بالتطوير الآمن والمسؤول للذكاء الاصطناعي في قمة سلامة الذكاء الاصطناعي في أوائل نوفمبر.
وضعت المبادئ التوجيهية لتطوير أنظمة الذكاء الاصطناعي الآمنة توصيات لضمان أن نماذج الذكاء الاصطناعي - سواء كانت مبنية من الصفر أو مبنية على النماذج الحالية أو واجهات برمجة التطبيقات من شركات أخرى - "تعمل على النحو المنشود، ومتاحة عند الحاجة، وتعمل دون الكشف عن البيانات الحساسة لأطراف غير مصرح بها". . "
والمفتاح لذلك هو نهج "الآمن الافتراضي" الذي يدعو إليه NCSC، وCISA، والمعهد الوطني للمعايير والتكنولوجيا ومختلف وكالات الأمن السيبراني الدولية الأخرى في الأطر القائمة. وتشمل مبادئ هذه الأطر ما يلي:
وفقًا لـ NCSC، أكدت 21 وكالة ووزارة من إجمالي 18 دولة أنها ستوافق على المبادئ التوجيهية الجديدة وتشارك في المصادقة عليها. ويشمل ذلك وكالة الأمن القومي ومكتب التحقيقات الفيدرالي في الولايات المتحدة، بالإضافة إلى المركز الكندي للأمن السيبراني، ووكالة الأمن السيبراني الفرنسية، والمكتب الفيدرالي للأمن السيبراني في ألمانيا، وسنغافورة. وكالة الأمن السيبراني والمركز الوطني الياباني للحوادث. إعداد واستراتيجية الأمن السيبراني.
وقالت ليندي كاميرون، الرئيس التنفيذي لـ NCSC: بيان صحفي "نحن نعلم أن الذكاء الاصطناعي يتطور بمعدل هائل ويجب أن يكون هناك عمل دولي متضافر، بين الحكومات والصناعة، لمواكبة ذلك. ".
تنقسم المبادئ التوجيهية للتطوير الآمن لأنظمة الذكاء الاصطناعي إلى أربعة أقسام، يتوافق كل منها مع مراحل مختلفة من دورة حياة تطوير نظام الذكاء الاصطناعي: التصميم الآمن، والتطوير الآمن، والتنفيذ الآمن، والتشغيل والصيانة الآمنة.
تنطبق الإرشادات على جميع أنواع أنظمة الذكاء الاصطناعي وليس فقط النماذج "الحدودية" التي تمت مناقشتها باستفاضة في قمة سلامة الذكاء الاصطناعي التي استضافتها المملكة المتحدة في 1 و2 نوفمبر 2023. كما تنطبق الإرشادات على جميع المهنيين العاملين في مجال الذكاء الاصطناعي. وحول الذكاء الاصطناعي، بما في ذلك المطورين وعلماء البيانات والمديرين وصناع القرار وغيرهم من "أصحاب المخاطر" في مجال الذكاء الاصطناعي.
"لقد وجهنا المبادئ التوجيهية في المقام الأول إلى موردي أنظمة الذكاء الاصطناعي الذين يستخدمون النماذج التي تستضيفها مؤسسة (أو يستخدمون واجهات برمجة التطبيقات الخارجية)، ولكننا نشجع جميع الأطراف المهتمة... على قراءة هذه المبادئ التوجيهية لمساعدتهم على اتخاذ قرارات مستنيرة بشأن التصميم والتطوير والتنفيذ والتشغيل. أنظمة الذكاء الاصطناعي"، قال NCSC.
خلال قمة سلامة الذكاء الاصطناعي، التي عقدت في موقع بلتشلي بارك التاريخي في باكينجهامشاير، إنجلترا، وقع ممثلون من 28 دولة على بيان بلتشلي بشأن سلامة الذكاء الاصطناعي مما يسلط الضوء على أهمية تصميم الأنظمة وتنفيذها الذكاء الاصطناعي بأمان ومسؤولية، مع التركيز على التعاون. والشفافية.
ويعترف البيان بالحاجة إلى معالجة المخاطر المرتبطة بنماذج الذكاء الاصطناعي المتطورة، لا سيما في مجالات مثل أمن الكمبيوتر والتكنولوجيا الحيوية، ويدعم المزيد من التعاون الدولي لضمان الاستخدام الآمن والأخلاقي والمفيدIA.
وقالت ميشيل دونيلان، وزيرة العلوم والتكنولوجيا البريطانية، إن المبادئ التوجيهية المنشورة حديثًا "ستضع الأمن السيبراني في قلب تطوير التكنولوجيا".الذكاء الاصطناعي"من البداية إلى النشر.
نشر المبادئ التوجيهية بشأنالذكاء الاصطناعي لاقت ترحيبا من الخبراء والمحللين الأمن السيبراني.
توبي لويس، الرئيس العالمي لتحليل التهديدات في Darktrace defiالانتهاء من دليل "مشروع ترحيب" للأنظمة الذكاء الاصطناعي آمنة وموثوقة.
وتعليقًا عبر البريد الإلكتروني، قال لويس: "يسعدني أن أرى أن المبادئ التوجيهية تسلط الضوء على الحاجة إلى ذلك الذكاء الاصطناعي حماية بياناتهم ونماذجهم من المهاجمين وأن يقوم مستخدمو الذكاء الاصطناعي بتطبيق النماذج الصحيحة ذكاء مصطنع للمهمة الصحيحة. يجب على أولئك الذين يقومون بتطوير الذكاء الاصطناعي أن يذهبوا إلى أبعد من ذلك وأن يبنوا الثقة من خلال توجيه المستخدمين خلال رحلة كيفية وصول الذكاء الاصطناعي الخاص بهم إلى الإجابات. ومع الثقة والثقة، سندرك فوائد الذكاء الاصطناعي بشكل أسرع ولعدد أكبر من الأشخاص.
وقال جورج أنيدجار، نائب رئيس شركة Informatica لجنوب أوروبا، إن نشر المبادئ التوجيهية يمثل "خطوة مهمة نحو معالجة تحديات الأمن السيبراني الكامنة في هذا المجال سريع التطور".
BlogInnovazione.it
أعلنت صحيفة فاينانشيال تايمز يوم الاثنين الماضي عن صفقة مع OpenAI. "فاينانشيال تايمز" ترخص صحافتها ذات المستوى العالمي...
يدفع الملايين من الأشخاص مقابل خدمات البث، ويدفعون رسوم الاشتراك الشهرية. من الشائع أنك…
سوف تستمر شركة Coveware by Veeam في تقديم خدمات الاستجابة لحوادث الابتزاز السيبراني. ستوفر Coveware إمكانات الطب الشرعي والمعالجة...
تُحدث الصيانة التنبؤية ثورة في قطاع النفط والغاز، من خلال اتباع نهج مبتكر واستباقي لإدارة المحطات.
