Fin de la première édition du AI Safety Prize
Le concours inaugural AI Safety Prize s'est achevé par la remise des prix lors des Swiss Cyber Security Days, le 20 février. Nous...
top of page
Intelligence artificielle (IA)
_edited.png)
Les progrès rapides de l'IA présentent diverses opportunités, mais aussi des risques importants.
Les "deep fakes" et la prolifération de la désinformation peuvent sérieusement éroder la confiance du public et perturber les processus démocratiques. En outre, les défaillances des systèmes d'IA déployés dans les infrastructures critiques, telles que les réseaux énergétiques peuvent avoir de graves conséquences.
La sécurité de l'IA constitue donc une priorité essentielle. Une surveillance et des normes intelligentes sont impératives pour exploiter les opportunités tout en gérant les risques de l'IA.
Nos sujets prioritaires en matière de sécurité de l'IA sont les suivants:
Proposer des cadres réglementaires appropriés pour l'IA avancée
Un cadre réglementaire pour l'IA est essentiel pour harmoniser l'innovation avec une gestion efficace des risques. En établissant des lignes directrices raisonnables, un tel cadre favorise un environnement de développement sûr, en particulier pour les modèles de pointe. L'un des aspects clés consiste à rendre obligatoire l'évaluation des modèles d'IA avancée par des tiers, pour permettre des tests complets avant leur mise sur le marché. Contrairement à ce qui se passe pour les appareils techniques tels que les grille-pain, la réglementation de l'IA en Europe et dans le monde n'en est qu'à ses balbutiements. Un cadre réglementaire solide réduit l'incertitude, stimule l'investissement et garantit que les technologies de l'IA contribuent positivement à la société, tout en atténuant de manière proactive les effets négatifs potentiels.
_edited.png)
Focus Domaines
Élaborer des normes industrielles
En complément des cadres juridiques, l'élaboration de normes industrielles détaillées, telles que celles de l'ISO et du CEN/CENELEC, joue un rôle crucial pour garantir un déploiement sûr et éthique de l'IA. Ces normes constituent une approche ascendante de la gouvernance, offrant des lignes directrices techniques spécifiques qui peuvent s'adapter plus rapidement aux avancées technologiques que la législation. Pour Demain participe activement à ces discussions techniques, apportant son expertise pour façonner des normes qui permettent une innovation sûre et éthique.
Contribuer à la gouvernance internationale de l'IA
Une gouvernance internationale de l'IA est essentielle, avec des initiatives telles que la Convention sur l'IA du Conseil de l'Europe, les recommandations politiques du G7 et de l'OCDE, qui jouent un rôle important dans l'élaboration de normes mondiales. Ces efforts sont complétés par les travaux en cours lors des conférences de suivi du AI Safety Summit 2023, où les principales parties prenantes se réunissent pour faire progresser les cadres de sécurité et de gouvernance de l'IA. Pour Demain contribue activement à ces efforts internationaux, en tirant parti de son expertise pour influencer les recommandations politiques et les normes.
Renforcer la recherche sur la sécurité de l'IA
Les systèmes d'IA, en particulier les modèles d'apprentissage profond, sont souvent opaques, ce qui complique la compréhension de leurs processus décisionnels. Cette opacité est problématique dans des domaines critiques comme la santé et la justice. Il est donc essentiel d'améliorer l'interprétabilité de l'IA par des recherches visant à rendre les décisions de l'IA transparentes, responsables et fiables. De tels efforts sont essentiels pour garantir une utilisation éthique de l'IA et la confiance de la société. Pour Demain plaide en faveur d'initiatives de recherche nationales et internationales axées sur l'interprétabilité de l'IA.
Surveiller l'utilisation de l'IA dans les infrastructures critiques
Pour Demain étudie l'utilisation de l'IA avancée dans des secteurs critiques tels que la santé et l'énergie afin d'informer les décideurs politiques (par exemple, l'étude 2023). Cet effort vise à cartographier l'adoption de l'IA, en guidant les actions politiques nécessaires à son déploiement en toute sécurité. Ces informations fondées sur des données permettent de garantir que l'IA améliore ces secteurs de manière responsable, en alignant le progrès technologique sur le bien-être de la société.
Accueillir le prix de la sécurité de l'IA
Pour Demain a organisé un prix de la sécurité de l'IA pour attirer l'attention des décideurs politiques et des chefs d'entreprise sur les problèmes de sécurité posés par l'IA. Ce concours vise à mettre en évidence les lacunes en la matière, à sensibiliser et à inciter à l'action dans le domaine de la sécurité de l'IA. Il sert de plateforme pour favoriser le développement d'une IA plus sûre, en influençant les politiques et les pratiques industrielles afin de donner la priorité à la sécurité et à l'éthique dans les progrès de l'IA.
Derniers articles de blog sur l'IA
Restez au courant de nos travaux.
S'abonner à notre lettre d'information
bottom of page