Intelligence artificielle.
Photo: Tung Nguyen via Pixabay
De nouveaux engagements visant à développer l’IA en toute sécurité ont été pris par 16 entreprises technologiques du monde entier, dontdes entreprises américaines, chinoises et du Moyen-Orient, ce qui constitue une première mondiale le jour de l’ouverture du sommet de Séoul sur l’IA, mardi 22 mai.
À l’issue de ces deux journées de discussions, Zhipu.ai (Chine) et le Technology Innovation Institute (Émirats arabes unis) figurent parmi les entreprises qui ont signé les nouveaux « Engagements en matière de sécurité des frontières de l’IA » :
- Amazon
- Anthropic
- Cohere
- Google / Google DeepMind
- G42
- IBM
- Inflection AI
- Meta
- Microsoft
- Mistral AI
- Naver
- OpenAI
- Samsung Electronics
- Institut d’innovation technologique
- xAI
- Zhipu.ai
Si elles ne l’ont pas encore fait, les entreprises de technologie de l’IA publieront chacune des cadres de sécurité sur la manière dont elles mesureront les risques de leurs modèles d’IA d’avant-garde, en examinant par exemple le risque d’utilisation abusive de la technologie par des acteurs malveillants.
Les cadres préciseront également à quel moment les risques graves, s’ils ne sont pas atténués de manière adéquate, seront « jugés intolérables » et ce que les entreprises feront pour s’assurer que les seuils ne sont pas dépassés.
Dans les cas les plus extrêmes, les entreprises se sont également engagées « à ne pas développer ou déployer du tout un modèle ou un système » si les mesures d’atténuation ne permettent pas de maintenir les risques en deçà des seuils fixés.
Lors de la définition de ces seuils, les entreprises prendront l’avis d’acteurs de confiance, y compris les gouvernements nationaux le cas échéant, avant de les publier avant le sommet d’action sur l’IA qui se tiendra en France au début de l’année 2025.
Les 16 entreprises qui ont accepté ces engagements représentent les plus importantes entreprises de technologie de l’IA dans le monde, y compris des représentants des États-Unis et de la Chine, les deux plus grandes puissances mondiales en matière d’IA.
