Novas orientacións sobre seguridade da IA ​​publicadas por NCSC, CISA e outras axencias internacionais

As Directrices para o desenvolvemento de sistemas de IA seguros foron escritas para axudar aos desenvolvedores a garantir que a seguridade está integrada no corazón dos novos modelos de IA.

O Centro Nacional de Seguridade Cibernética do Reino Unido, a Axencia de Seguridade en Ciberseguridade e Infraestrutura dos Estados Unidos e axencias internacionais doutros 16 países publicaron novas orientacións sobre a seguridade dos sistemas de intelixencia artificial.

Le directrices para o desenvolvemento seguro de sistemas de intelixencia artificial están deseñados para guiar aos desenvolvedores especificamente no deseño, desenvolvemento, implementación e operación de sistemas de IA e garantir que a seguridade siga sendo un compoñente crítico durante todo o seu ciclo de vida. Non obstante, outras partes interesadas en proxectos de IA tamén deberían considerar útil esta información.

Estas directrices foron publicadas pouco despois de que os líderes mundiais comprometéronse co desenvolvemento seguro e responsable da intelixencia artificial no Cumio de Seguridade da IA ​​a principios de novembro.

En resumo: directrices para o desenvolvemento de sistemas de IA seguros

As Directrices para o desenvolvemento de sistemas de IA seguros establecen recomendacións para garantir que os modelos de IA, xa sexan construídos desde cero ou baseados en modelos existentes ou API doutras empresas, "funcionen segundo o previsto, estean dispoñibles cando sexan necesarios e funcionen sen revelar datos confidenciais a partes non autorizadas". . "

A clave disto é o enfoque "seguro por defecto" que defenden NCSC, CISA, o Instituto Nacional de Estándares e Tecnoloxía e outras axencias internacionais de ciberseguridade nos marcos existentes. Os principios destes marcos inclúen:

• Asumir os resultados de seguridade dos clientes.
• Adoptar unha transparencia radical e a responsabilidade.
• Construír estrutura organizativa e liderado para que a "seguridade polo deseño" sexa unha prioridade empresarial.

Segundo o NCSC, un total de 21 axencias e ministerios dun total de 18 países confirmaron que aprobarán e selarán as novas directrices. Isto inclúe a Axencia de Seguridade Nacional e a Oficina Federal de Investigacións dos Estados Unidos, así como o Centro Canadense para a Ciberseguridade, a Axencia de Seguridade Cibernética francesa, a Oficina Federal de Seguridade Cibernética de Alemaña, o Singapur Axencia de Seguridade Cibernética e Centro Nacional de Incidentes de Xapón. Preparación e estratexia de ciberseguridade.

Lindy Cameron, directora executiva do NCSC, dixo en un comunicado de prensa : "Sabemos que a intelixencia artificial se está a desenvolver a un ritmo fenomenal e que hai que haber unha acción internacional concertada, entre gobernos e industria, para seguir o ritmo. ".

Asegura as catro fases clave do ciclo de vida do desenvolvemento da IA

As directrices para o desenvolvemento seguro dos sistemas de IA estrutúranse en catro seccións, cada unha correspondente a diferentes fases do ciclo de vida de desenvolvemento dun sistema de IA: deseño seguro, desenvolvemento seguro, implementación segura e operación e mantemento seguros.

• Deseño seguro ofrece orientación específica para a fase de deseño do ciclo de vida do desenvolvemento do sistema de IA. Destaca a importancia de recoñecer os riscos e realizar modelos de ameazas, así como de considerar varios temas e compensacións ao deseñar sistemas e modelos.
• Desenvolvemento seguro abrangue a fase de desenvolvemento do ciclo de vida do sistema de IA. As recomendacións inclúen garantir a seguridade da cadea de subministración, manter unha documentación exhaustiva e xestionar eficazmente os recursos e a débeda técnica.
• Implementación segura aborda a fase de implementación dos sistemas de IA. As directrices neste caso tratan de salvagardar a infraestrutura e os modelos de compromisos, ameazas ou perdas, o deficreación de procesos para a xestión de incidentes e adopción de principios de liberación responsable.
• Operación e mantemento seguros conter indicacións sobre a fase de operación e mantemento tras o despregamento dos modelos de intelixencia artificial. Abarca aspectos como o rexistro e seguimento efectivos, a xestión de actualizacións e o intercambio responsable da información.

Directrices para todos os sistemas de IA

As directrices son aplicables a todo tipo de sistemas de IA e non só aos modelos "de fronteira" que foron amplamente discutidos durante o Cumio de Seguridade da IA ​​celebrado no Reino Unido os días 1 e 2 de novembro de 2023. As directrices tamén son aplicables a todos os profesionais que traballan en e arredor da IA, incluíndo desenvolvedores, científicos de datos, xestores, tomadores de decisións e outros "propietarios de riscos" da IA.

"Destinamos as directrices principalmente aos provedores de sistemas de IA que usan modelos aloxados por unha organización (ou usan API externas), pero animamos a todas as partes interesadas... a que lean estas directrices para axudarlles a tomar decisións fundamentadas de deseño, desenvolvemento, implementación e operación dos seus. sistemas de intelixencia artificial”, declarou o NCSC.

Resultados do Cumio de Seguridade da IA

Durante o Cumio de Seguridade da IA, celebrado no lugar histórico de Bletchley Park en Buckinghamshire, Inglaterra, representantes de 28 países asinaron o Declaración de Bletchley sobre a seguridade da IA , que destaca a importancia de deseñar e implantar sistemas intelixencia artificial de forma segura e responsable, con énfase na colaboración. e transparencia.

A declaración recoñece a necesidade de abordar os riscos asociados aos modelos de IA de vangarda, especialmente en áreas como seguridade informática e biotecnoloxía, e apoia unha maior colaboración internacional para garantir o uso seguro, ético e beneficioso deIA.

Michelle Donelan, secretaria británica de ciencia e tecnoloxía, dixo que as directrices recentemente publicadas "porán a ciberseguridade no centro do desenvolvemento deintelixencia artificial” dende o inicio ata a implantación.

Reaccións a estas directrices de IA da industria da ciberseguridade

A publicación das directrices sobreintelixencia artificial foi acollida por expertos e analistas cibersegurança.

Toby Lewis, xefe global de análise de ameazas en Darktrace defirematou a guía "un proxecto de benvida" para sistemas intelixencia artificial seguro e fiable.

Comentando por correo electrónico, Lewis dixo: "Estou satisfeito de ver que as directrices destacan a necesidade de intelixencia artificial protexa os seus datos e modelos dos atacantes e que os usuarios de IA apliquen os correctos intelixencia artificiais para a tarefa correcta. Os que desenvolven a IA deberían ir máis aló e xerar confianza guiando aos usuarios a través da viaxe de como a súa IA chega ás respostas. Con confianza e confianza, daremos conta dos beneficios da IA ​​máis rápido e para máis xente".

Georges Anidjar, vicepresidente para o Sur de Europa de Informatica, dixo que a publicación das directrices marca "un paso significativo para abordar os retos de ciberseguridade inherentes a este campo en rápida evolución".

BlogInnovazione.it