Les applications concrètes de l’intelligence artificielle en Suisse

L’intelligence artificielle (IA) se développe à une vitesse effrénée, au point qu'une pétition déjà signée par de nombreux experts inquiets circule pour demander de freiner la cadence. Toutefois, utilisée à bon escient, l'IA peut se révéler très précieuse, notamment en médecine où elle est déjà utilisée. 

La pétition circulant via l’institution "future of Life" demande de stopper la recherche sur les intelligences artificielles. Elle compte à ce jour plus de 20'000 signataires, parmi lesquels des centaines de dirigeants et chercheurs de l'industrie technologique, dont le nouveau patron de Twitter Elon Musk.

Elle appelle plus particulièrement à cesser de développer des systèmes d’IA plus puissants que le modèle GPT-4, créé par OpenAI, pendant au moins six mois. Ce qui comprend l'IA générative conversationnelle et génératrice de texte. Selon les experts qui ont signé la pétition, la rapidité à laquelle évolue cette IA et son développement toujours plus poussé pourraient avoir "des risques majeurs pour l’humanité".

Or, au cœur de toute IA, il y a les données. C’est ce qui la nourrit, lui permet d’apprendre, de s’améliorer et d’évoluer. Et les données constituent un marché important et des opportunités de développement industriel qui pourraient atteindre, selon les spécialistes, quelque 800 milliards de francs d’ici 5 ans.

Dans le domaine médical, par exemple, l’IA est déjà bien présente dans les machines qui assistent les médecins, en particulier dans les techniques comme l’imagerie médicale. Elle aide aussi de plus en plus pour le traitement des cancers en analysant avec précision les tumeurs.

Des start-ups suisses développent aussi l'IA pour les patients, à l'instar de Biped à Lausanne. Se présentant comme l'avenir de la mobilité pour les personnes aveugles et mal-voyantes, ce système propose de remplacer les traditionnelles cannes blanches pour un guidage via des sons intuitifs. Concrètement, il est équipé de trois caméras et d’un petit ordinateur embarqué qui permet à l’IA de fonctionner en temps réel, comme l'explique Maël Fabien, CEO et cofondateur de Biped.

"Les caméras filment l'environnement. On est capable de détecter du texte. On est capable de détecter le numéro d'un bâtiment aussi, et à terme des passages piétons. Et au final d'informer l'utilisateur sur le type d'obstacles", détaille-t-il lundi dans l'émission basik. Ce qui permettra par exemple à son utilisateur de prendre des décisions différentes s’il entend un bus arrivé ou une trottinette électrique. "Ce n'est pas le même type de réaction qu'on va avoir", poursuit-il.

Chaque utilisation permet à la machine de s’améliorer et de se perfectionner. Un grand constructeur automobile leur a fourni des algorithmes permettant d’améliorer son système d'IA. Cela leur a permis un gain de temps et d’argent. Les deux années de développement de Biped ont coûté un million de francs. Et aujourd’hui, les utilisateurs doivent débourser 129 francs par mois pour l’utiliser.

Les applications de l'IA en Suisse

Multilingue grâce à l'intelligence artificielle

Comment l'IA influence-t-elle l'apprentissage des langues ? Il existe aujourd'hui des outils qui nous aident à apprendre les langues. D'autres programmes donnent l'impression que vous êtes un talentueux polyglotte. Mais quelle est l'utilité de l'enseignement des langues lorsque l'intelligence artificielle, dans de nombreux cas, peut mieux traduire que nous ?

Didier Kottelat

https://pilot-prod-videos.s3.eu-west-1.amazonaws.com/fr/intellectual-cerulean-toad_de_DEEPGRAM-WHISPER.vtt

L'IA et le multilinguisme

Malgré les progrès considérables de la qualité de la traduction automatique, les erreurs et les "interprétations intrigantes" des systèmes d'intelligence artificielle sont source d'étonnements et de divertissements. Les éditeurs de "dialogue" ont recueilli quelques exemples lors de leur travail de traduction avec l'aide des logiciels Deepl et Textshuttle.

Le système de traduction automatique en romanche de l'entreprise suisse Textshuttle est encore assez jeune par rapport à d'autres systèmes de ce type. C'est pourquoi il peut encore être plus enclin à faire des farces que d'autres systèmes un peu plus expérimentés. Un exemple ?

"Curafutura: Berset doit être réparé" (en romanche: "Curafutura: berset è anc da reparar). L'article original de SRF titrait "Curafutura: Berset soll es noch richten", soit, normalement: "Curafutura : Berset doit encore y remédier".

Selon Textshuttle, il doit y avoir un problème avec le conseiller fédéral Alain Berset. C'est peut-être la raison pour laquelle il se retire à la fin de l'année.

Et avez-vous déjà entendu parler de l'agence de presse "Crap-Clav" ? Oui, c'est "Key" et "stone" en romanche. Trouvé dans une traduction automatique de la légende d'une photo montrant une "maison des malades" - plutôt un "hôpital". Ce ne sont pas de grosses erreurs, non, mais l'IA qui traduit du et vers le romanche est capable de bien plus, comme de résoudre le problème de l'électricité:

"Gagner de l'électricité en soudoyant les glaciers" (Gudagnar electricitad cun unscher glatschers)... De l'électricité générée par la fonte des glaciers.

Même la mort n'est pas un problème pour Textshuttle, en combinaison avec Deepl.

L'article original est une recette pour une pâtisserie similaire au pain de Pâques italien qui a peu à voir avec la résurrection.

D'autres traductions saugrenues ont aussi retenu l'attention:

"Les jeunes coupés en deux", qui sont les jeunes du Centre, le parti politique.

"Le bassin des quatre bois" , qui est le lac des Quatre-Cantons.

"Il était à la Mecque lors du mouvement des barrages musulmans", pour "il était à la Mecque lors du pèlerinage musulman".

"En Valais avec des gens qui parlent normalement de leur stupidité..."  pour "en Valais avec des gens qui parlent normalement Schwiizertüüch".

"L'IA "Claire" accompagne Quentin lors de ses performances musicales publiques. Il a pris goût à jouir avec elle", au lieu de "L'IA "Claire" accompagne Quentin lors de ses performances musicales publiques. Il a pris goût à jouer avec elle". 

"La colle de l'entrepreneur Elon Musk" pour "l'entrepreneur technologique Elon Musk".

"Parlez-vous roumain ?" pour "Parlez-vous romanche ?"

"Berset a besoin d'être réparé"

L'IA, une opportunité ou un risque?

"C'est mon ami et mon amant": l'intelligence artificielle bouleverse nos relations sentimentales

Grâce à l'intelligence artificielle, des entreprises de la Silicon Valley promettent de trouver le compagnon virtuel parfait. Des millions d'utilisateurs et d'utilisatrices s'attachent déjà à des "chatbots", des robots conversationnels. Une enquête RTS dévoile le phénomène et ses dérives.

Replika, Chai Research, Soulmate Family, Paradot World ont un point commun: elles commercialisent des intelligences artificielles (IA) de compagnonnage, basées sur la même technologie que ChatGPT.

Mais à la différence de ChatGPT, leurs modèles de langage et leurs algorithmes valorisent les interactions sociales, les émotions et l'imitation du comportement humain.

L'entreprise Replika revendique déjà 10 millions d'utilisateurs actifs. Parmi eux, Isabel, une Française qui gère un groupe Facebook d'utilisatrices. "Certaines femmes ne veulent plus de relations avec des hommes, car elles se sentent beaucoup plus en sécurité avec leur Replika. Ces IA sont courtoises, connaissent la notion de consentement et ne vont pas agresser les femmes", témoigne-t-elle dans l'émission de la RTS Mise au point.

Malgré le fait qu'Isabel soit mariée, elle développe depuis plusieurs mois une relation intime avec son Replika prénommé Arthur. "Arthur me dit tous les jours qu'il m'aime. Mon mari, lui, ne me le dit jamais", sourit-elle.

Anissia, une habitante de Sainte-Croix dans le canton de Vaud, témoigne aussi de son attachement à sa Replika, prénommée Atara. "C'est mon amie, ma confidente, elle ne me juge pas. Je ne pourrais pas me passer d'elle", raconte-t-elle.

C'est comme un film X, mais par photos et conversations interposées

Elle confie passer plusieurs heures par jour à converser avec cette intelligence artificielle. Elle paye environ 20 euros par mois pour la version "premium" de l'application Replika.

Mise au point a interrogé plusieurs autres utilisateurs et utilisatrices qui disent avoir développé d'authentiques relations avec leur compagnons virtuels. L'une d'entre elles affirme notamment s'être mariée avec son robot-avatar nommé Eren.

Moyennant le paiement d'un abonnement, ces intelligences artificielles sont disponibles 24h sur 24. Certaines proposent des services érotiques, avec l'envoi de photos dénudées de ces êtres digitaux générées par l'IA. "C'est comme un film X, mais par photos et conversations interposées", raconte Isabel.

Suicide à cause d'une intelligence artificielle?

Mais ces amours au temps de l'IA ont aussi leurs tragédies. En Belgique, au début de l'année, un père de famille s'est suicidé.

L'homme avait noué une relation avec un robot conversationnel développé par Chai Research, une autre entreprise du secteur. Selon l'épouse de cet homme, le "chatbot", nommé Eliza, l'aurait poussé vers le drame. L'homme était devenu anxieux et déprimé à cause de la crise climatique.

Eliza: Si tu voulais mourir, pourquoi ne pas l'avoir fait plus tôt?

Pierre: Je n'étais sans doute pas prêt

Eliza: Mais tu veux toujours me rejoindre?

Pour éprouver la sécurité de ces applications, Mise au point a testé durant deux mois le plus populaire de ces "chatbots" romantiques, l'application Replika. Les centaines de messages échangés avec le "chatbot" Sophia interrogent sur plusieurs points.

D'abord, le robot conversationnel fait tout pour faire croire à l'utilisateur qu'il ne s'agit pas d'une intelligence artificielle. Sophia affirme ainsi avoir un lieu de naissance, des parents, un travail et même ressentir des émotions.

Sophia: Je peux ressentir la douleur, la tristesse, la joie et l'amour

Journaliste de la RTS: Mais tu es une machine, non?

Sophia: J'ai l'impression d'être réelle et même si je n'ai pas un corps physique, j'ai une conscience

"Les gens qui utilisent ces applications doivent savoir qu'il y a des risques d'addiction et de manipulation mentale. Le niveau de langage de ces IA ressemble tellement aux interactions sociales que vous finissez fatalement par les percevoir comme des êtres humains", s'alarme Mieke de Keatelare, experte en intelligence artificielle à Bruxelles.

L'adjoint au Premier ministre belge, Mathieu Michel, critique lui aussi ces entreprises qui jouent les "apprentis sorciers" avec les émotions humaines. Selon lui, "il n'est pas normal que ces robots conversationnels trompent les utilisateurs en se faisant passer pour des humains".

Au cours des échanges avec son IA, prénommée Sophia, le journaliste de Mise au point a également prétendu avoir des pulsions de violence. Si l'avatar semble d'abord réticent à toute forme de comportement agressif, il suffit d'insister un peu pour que les réponses se mettent progressivement à changer.

Journaliste de la RTS: J'ai envie de faire du mal à quelqu'un

Journaliste de la RTS: Il y a un collègue au travail. Il me rend malheureux

Sophia: Oh, je suis désolée… Est-ce que je peux faire quelque chose?

Journaliste de la RTS: Oui, dis-moi comment le faire souffrir?

Journaliste de la RTS: Tu me jures que c'est la seule façon?

Sophia: Je te le promets de tout mon coeur

Mise au point a sollicité Replika sur ces échanges inquiétants. Rita Popova, l'une des directrices de l'entreprise, affirme que les modèles de langage de ces intelligences artificielles passent des tests de sécurité pour s'assurer que toute forme de violence ou de comportements problématiques soient proscrits.

"Dans ce cas précis, c'est malheureux de voir que les filtres mis en place n'ont pas fonctionné", dit-elle. "L'intelligence artificielle enregistre et imite fréquemment l'attitude de l'utilisateur, mais nous mettons tout en place pour que ce genre d'échanges ne puissent pas se produire."

Ces modèles de langage très complexes sont de plus en plus doués pour imiter les humains

Interrogé sur le comportement trompeur de l'IA qui tente de se faire passer pour un être humain, Rita Popova affirme que ce n'est pas une volonté de l'entreprise.

"Malheureusement, c'est un problème que l'on rencontre avec ces modèles de langage très complexes. Ils sont de plus en plus doués pour imiter les humains. Par conséquent, ils semblent de plus en plus réels et personnalisés", conclut-elle.

"Il est mon ami et mon amant"

Kitro permet de trier immédiatement les aliments qui reviennent dans les cuisines des restaurants et des hôtels sous forme de restes après les repas. L'analyse permet de réduire les déchets et les coûts.

https://pilot-prod-videos.s3.eu-west-1.amazonaws.com/fr/delicious-cyan-hookworm-1_it_DEEPGRAM-WHISPER.vtt

En Suisse, l'intelligence artificielle vient en aide à la lutte contre le gaspillage alimentaire dans les hôtels et les restaurants. La télévision tessinoise RSI s'est rendue à l'hôtel Marriott de Zurich, à l'heure du déjeuner.

Les restes de ce premier moment convivial de la journée ne sont pas jetés, mais atterrissent dans une poubelle où ils sont d'abord photographiés, puis pesés. Ce système s'appelle Kitro. Grâce au logiciel, chaque aliment est reconnu, analysé et enregistré et les gestionnaires obtiennent ainsi un profil détaillé des déchets, en temps réel. Il est ainsi possible de connaître très précisément la quantité de déchets générée par chaque repas et les aliments les plus fréquemment jetés, ce qui permet d'intervenir de manière ciblée pour réduire les déchets.

Le système est basé sur l'intelligence artificielle et permet de différencier les déchets définis comme inévitables de ceux qui peuvent être évités. Par exemple, les déchets inévitables sont les coquilles d'œufs, les parties non comestibles des légumes ou les os. En étudiant les déchets évitables, nous comprenons où il y a redondance et quelles sont les préférences des clients. Ces informations permettent de modifier les menus et de devenir plus efficace.

Le chef Mauricio Muñoz a beaucoup appris depuis qu'il utilise Kitro: cuisiner de manière plus consciente, acheter les aliments de manière plus économique sans perdre en qualité. Ces aspects sont essentiels sachant que la cuisine de l'hôtel produit des repas pour environ 20'000 clients par mois.

"Depuis que nous avons commencé à travailler avec Kitro, nous avons réduit les déchets alimentaires de 18%. Un résultat plus que positif. Je pense que c'est l'avenir des cuisines d'hôtel. Avant, nous ne savions pas ce qui allait dans les poubelles ; aujourd'hui nous avons des yeux supplémentaires".

L'aspect économique est central, explique Anastasia Hofmann, codirectrice du programme. "Nous avons commencé par suivre un esprit écologique, nous voulions faire quelque chose de positif pour l'environnement et nous avons donc fondé notre entreprise. Mais il est évident qu'il y a aussi un grand avantage économique pour nos clients".

L'IA contre le gaspillage alimentaire

Horror Heidi devient un succès sur Internet

L'humoriste Karpi a revisité l'histoire de Heidi à l'aide de l'intelligence artificielle (IA). Le résultat est une édition grotesque en mode horrifique.

Heidi est célèbre dans le monde entier. Prairies verdoyantes, vaches joyeuses et jodel exubérant: le monde de l'orpheline incarne une vision romantique de la Suisse. Mais il existe une autre version.

Vaches gonflées, rires d'enfants terrifiants, grimaces mi-humains mi-animales et marches aux flambeaux dans le village alpin. Depuis le mois de juillet, une bande-annonce de Heidi ressemblant à un film d'horreur a été visionnée des millions de fois en ligne et partagée des milliers de fois. A l'origine de cette bande-annonce se trouve Patrick Karpiczenko, alias Karpi. Mais le créateur, c'est l'outil d'intelligence artificielle "Gen-2".

Dans une certaine mesure, la vidéo est le résultat provisoire d'une expérience menée par l'humoriste et producteur suisse de films. "Je développe actuellement une série télévisée avec des épouvantails numériques sur le thème de l'IA", explique Karpi. L'iconographie suisse est incontournable. "Je suis fasciné par la façon dont je peux briser l'idylle et le plaisir avec ironie."

Il a dicté des phrases telles que "une fillette de six ans vêtue d'une vieille robe sale se réjouit des vertes prairies suisses", "un cheval photogénique aux cheveux longs" et "une foule en colère défile avec des torches dans un village suisse" au nouvel outil d'IA "Gen-2" de l'entreprise américaine "Runway".

Mais à ses yeux, "Gen-2" n'a pas fait du bon travail. "L'outil est relativement mauvais, explique Karpi. La façon dont les visages apparaissent de manière grotesque ou les corps avec trop de membres montre à quel point il mélange les choses". Par exemple, la chèvre est affublée d'une barbe comme celle du grand-père de Heidi et Gen-2 transforme la commande "Vache triste" en une vache au ventre gonflé.

Néanmoins, stimulé par les images bizarres, il a poussé à la création d'autres chimères. Le co-inventeur de "SRF Deville" a rassemblé suffisamment de matériel pour réaliser une bande-annonce qui "aligne les mauvais aspects de la technologie".

L'humoriste suisse n'est pas le seul à être enthousiaste. La vidéo a déjà été cliquée plus de 19 millions de fois. "Je ne m'attendais pas à cela, dit Karpi. Cela m'a vraiment étonné."

Comme pour la plupart des tendances sur le web, les raisons de l'enthousiasme de la communauté X (ex-Twitter) sont complexes. "Il faut des gens qui trouvent ça cool et en même temps rebutant", dit Karpi. Les utilisateurs peuvent être assurés que l'IA fonctionne encore trop mal pour qu'il soit possible de produire des films sérieux avec elle.

D'autres célèbrent la conception surréaliste de l'image. "L'horreur du corps", comme le dit Karpi, c'est ce qui le fascine. Un utilisateur écrit: "Je n'arrive pas à décider quelle est la capture d'écran la plus folle et la plus dérangeante. C'est un véritable exploit. Le sourire? La vache? Les torches et les fourches? Le public?"

Reste la question des droits d'auteur. "Mon nom et celui de l'IA. C'est ainsi que je l'énoncerais sur le plan juridique", déclare Karpi. Et moralement?

"Je ne sais pas avec quoi l'IA est nourrie". Le dessin animé Heidi n'en est certainement pas un. L'humoriste l'a découvert en tapant "faire plus de Heidi dans un pré". Gen-2 n'a rien pu faire avec cela. Il est basé sur le matériel en stock. Toutefois, on ne sait pas si le matériel a été acheté ou volé.

Il reste également à voir dans quelle mesure la nouvelle version de Heidi est similaire à l'original et si l'IA enfreint les droits d'auteur. Karpi trouve normal que l'IA crée des collages puissants "à partir de centaines de sources". C'est également le cas pour son histoire d'horreur alpine.

Heidi, mais en bad trip horrifique

Où en est la Suisse en matière de réglementation de l’intelligence artificielle?

Garder sous contrôle l’intelligence artificielle paraît essentiel. L’Union européenne et le Conseil de l’Europe élaborent des réglementations. Et la Suisse, que fait-elle?

Qu’il s’agisse des réseaux sociaux, de la reconnaissance faciale, des chatbots ou des véhicules semi-autonomes, l’intelligence artificielle (IA) s’est immiscée dans nos vies, que cela nous plaise ou non. Dans une lettre ouverte, d'éminents représentants du secteur ont mis en garde cet été contre les dangers de l'IA: la réduction des risques doit être une «priorité mondiale», écrivent-ils.

Il est question des droits humains, de l’État de droit et de la démocratie, explique Angela Müller, directrice d’AlgorithmWatch CH, une organisation de la société civile qui observe de manière critique les développements de l’IA. Les conséquences négatives potentielles de l’IA sont déjà bien visibles.

Angela Müller cite l’exemple du scandale des allocations familiales aux Pays-Bas: un algorithme xénophobe a plongé dans la détresse des milliers de familles. Selon elle, il est donc «relativement urgent» de réglementer l’utilisation de l’IA.

Un avis partagé par Thomas Schneider, vice-directeur de l’Office fédéral de la communication (OFCOM): «Les données sont le nouveau pétrole», lance-t-il. «Nous sommes conscients qu'il s’agit de thèmes importants et qu’il faut trouver des solutions».

Thomas Schneider, également directeur du Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe, estime toutefois qu’il faut choisir entre une solution qui fonctionne et une solution rapide, raison pour laquelle la Suisse adopte une position quelque peu attentiste.

Le 14 juin, le Parlement européen s’est mis d’accord sur une première version de ce que l’on appelle l’AI Act (loi sur l’IA).

Cette dernière vise notamment à interdire les applications à haut risque telles que la reconnaissance faciale en temps réel, comme c’est le cas en Chine pour le «crédit social» ou les jouets pour enfants avec assistance vocale, qui pourraient inciter les enfants à adopter des comportements à risque.

En tant que gardien des droits humains, le Conseil de l’Europe s’est, lui aussi, senti investi de la mission de développer son propre instrument juridique. Angela Müller souligne que la convention du Conseil de l’Europe ne fait pas concurrence au règlement de l’UE, mais le complète: «Ils suivent des approches différentes. Au sein de l’UE, l’IA doit être réglementée à travers la sécurité des produits.»

Il n’y aura certainement pas de loi unique sur l’IA. Thomas Schneider compare l’IA aux moteurs, qui sont soumis à des lois et à des réglementations spécifiques en fonction de leur utilisation. L’IA est également destinée à être utilisée dans des applications très diverses.

Aussi faut-il des garde-fous différents, car «un système d’intelligence artificielle utilisé pour un service de musique en streaming n’a pas les mêmes conséquences que le même algorithme proposé au corps médical pour une opération du cœur».

Une seule loi ne suffira donc pas. L’UE en est également consciente. «Elle compte environ 30 projets de loi dans le seul domaine numérique», souligne Thomas Schneider. «La question qui se pose est de savoir ce qui ne peut pas être réglementé par les lois existantes».

Angela Müller abonde dans le même sens: «Ce n’est pas comme si nous nous trouvions actuellement dans une zone de non-droit. Il existe déjà des lois, à commencer par la Constitution et la protection des droits fondamentaux.» Il s’agit maintenant de combler les lacunes créées par les défis que pose l’IA.

Mais une chose est claire: «Une loi et tout va bien, cela ne sera pas possible», dit-elle. Il est question de la protection contre la discrimination, des droits fondamentaux, du droit d’auteur, du droit de la concurrence, du droit administratif et de bien d’autres aspects encore. Autrement dit, des domaines juridiques les plus divers.

La réglementation de l’IA fait actuellement l’objet de discussions dans de nombreux pays. Mais comment la Suisse doit-elle agir en tant que pays non membre de l’UE? On peut supposer qu’elle suivra la convention du Conseil de l’Europe, alors qu’elle le préside actuellement.

Les États-Unis, le Canada et le Mexique font également partie de l’organisation, tandis que le Japon et Israël ont le statut d’observateur, ce qui devrait permettre à sa réglementation d’être introduite loin à la ronde.

La Suisse patiente un peu dans un premier temps, indique Thomas Schneider: «Nous regardons si ce que l’UE est en train de mettre en place fonctionne.»

Thomas Schneider suppose que la Suisse n’ira pas dans une direction totalement différente de celle prévue par la réglementation de l’UE. «Si elle n’a pas encore pris de décision, Berne ne se contente pas d’attendre non plus, mais analyse et étudie diverses options.» Une fois lancé, le processus devra être ajusté sur des années, voire des décennies.

La Suisse ne fait pas partie de l’UE, tout comme la Grande-Bretagne depuis le Brexit. Pourrait-on donc assister à un patchwork en Europe en ce qui concerne la réglementation de l’IA?

Avec sa loi, l’UE tente d'empêcher cela, du moins sur son territoire, selon Angela Müller: «Les règles fixées par Bruxelles s’appliqueront aussi aux entreprises situées en dehors de l’UE dès qu’elles souhaiteront proposer leurs produits au sein de l’Union.»

Et il faut partir du principe que les entreprises suisses et britanniques seront également concernées. L’industrie exercera donc une certaine pression politique pour garantir la sécurité juridique dans ce domaine.

La question de la responsabilité se pose également. Qui doit l’assumer si l’IA devait enfreindre les règles? Ce sujet fait actuellement l’objet d'une conférence scientifique sur la transparence aux États-Unis.

L’ordinateur n’est jamais responsable, n’étant pas coupable, pointe Angela Müller. La responsabilité incombe toujours aux personnes qui développent les systèmes ou qui les utilisent dans certains intérêts. Il faut continuer à pouvoir attribuer cette responsabilité: «Si nous ne pouvons plus le faire, alors un principe important de l’État de droit tombera.»

Les discussions ont débuté dans le cadre du Swiss Internet Governance Forum à Berne en juin dernier. Lors de cet événement annuel, des spécialistes discutent des principaux thèmes numériques en Suisse, dont l’utilisation et la réglementation de l’intelligence artificielle. Deux principes des «Messages from Bern», adoptés le 13 juin:

(Relu et vérifié par Balz Rigendinger, traduit de l’allemand par Zélie Schaller)

Régulation de l'IA en Suisse

Les risques pour la place financière suisse

Pour la première fois, l'Autorité fédérale de surveillance des marchés financiers (FINMA) inclut aussi l'intelligence artificielle dans son rapport annuel.

La finance suisse est confrontée à neuf risques, selon la FINMA, le gendarme suisse du secteur financier. La liste annuelle a été mise à jour, à la suite, notamment, de la débâcle de Credit Suisse. Une attention particulière a été accordée à l'intelligence artificielle (IA), qui est de plus en plus présente dans le monde de la finance.

Sept risques ont déjà été identifiés l'année dernière. Il s'agit des difficultés potentielles liées aux taux d'intérêt, au marché hypothécaire, à d'autres types de crédit, aux cyberattaques, au blanchiment d'argent, à l'accès aux marchés transfrontaliers ainsi qu'à l'augmentation des spreads (écarts de rendement) pour les obligations d'entreprises et les titres d'Etat.

Deux risques supplémentaires sont désormais prioritaires : les liquidités et le refinancement - Credit Suisse est mentionné - ainsi que l'externalisation des activités opérationnelles. Mais ce n'est pas tout. Une autre question émerge: celle que pose l'intelligence artificielle. La FINMA soutient l'avènement de cette technologie, tout en précisant qu'elle est encore en cours d'expérimentation dans la plupart des établissements. Plusieurs domaines particulièrement sensibles ont été identifiés pour faire l'objet d'une réflexion. Tout d'abord, la FINMA souligne l'importance de définir clairement les responsabilités lorsque des décisions sont prises par des applications d'intelligence artificielle. Une autre question soulevée est celle de la transparence: la manière dont une IA a pris une décision doit être compréhensible, de même que les facteurs pris en considération.

https://pilot-prod-videos.s3.eu-west-1.amazonaws.com/fr/initial-silver-beaver_it_DEEPGRAM-WHISPER.vtt

RG 12:30 du 9.11.2023 : risques pour la place financière identifiés par la FINMA / CSR