Tragédie de Tumbler Ridge : OpenAI promet des mesures de sécurité renforcées

Face à la crise, OpenAI s’engage

La pression monte sur OpenAI. Suite à une rencontre ce mercredi, le ministre fédéral de l’Intelligence artificielle, Evan Solomon, a annoncé que le PDG de la firme technologique, Sam Altman, s’était engagé à mettre en place de nouvelles mesures de sécurité. Cet échange intervient dans le sillage d’une tuerie qui a secoué la petite communauté de Tumbler Ridge, en Colombie-Britannique.

Au cœur des discussions : la responsabilité des géants de l’IA lorsque leurs outils sont confrontés à des utilisateurs au comportement inquiétant. En réponse, OpenAI devra notamment fournir un rapport détaillant ses nouveaux systèmes de détection. L’objectif est clair : mieux identifier les délinquants à haut risque et ceux qui violent les politiques d’utilisation de ses services.

Pour aller plus loin, Evan Solomon a précisé qu’il mandaterait l’Institut canadien de la sécurité de l’IA. La mission de cet organisme sera d’examiner en profondeur le modèle d’intelligence artificielle d’OpenAI et de fournir des conseils techniques d’experts directement à son cabinet ministériel.

Un drame qui aurait pu être évité ?

Cette série de rencontres et de promesses trouve son origine dans une terrible tragédie. Le 10 février dernier, Jesse Van Rootselaar a abattu huit personnes dans la ville de Tumbler Ridge, dont six enfants, avant de se donner la mort. Un drame qui a mis en lumière un fait troublant : OpenAI était au courant du profil potentiellement dangereux du tireur.

En effet, l’entreprise avait banni Jesse Van Rootselaar de son robot conversationnel ChatGPT dès le mois de juin précédent. La raison invoquée était des « interactions inquiétantes ». Pourtant, à aucun moment les forces de l’ordre n’ont été alertées de ce signalement, et ce, avant que le tireur ne passe à l’acte plusieurs mois plus tard.

Face aux critiques, OpenAI a soutenu que de nouveaux protocoles, s’ils avaient été en place à l’époque, auraient conduit à un signalement à la police. Une justification jugée insuffisante par le ministre Solomon, pour qui cette tragédie « exige des réponses et des mesures de protection plus strictes lorsque des technologies d’IA puissantes sont en jeu ».

Les nouvelles garanties sur la table

Concrètement, quels sont les engagements pris par Sam Altman ? Le ministre Solomon a détaillé plusieurs mesures précises. D’abord, OpenAI va établir un point de contact direct et permanent avec la Gendarmerie royale du Canada (GRC). Ensuite, l’entreprise mettra en œuvre des protocoles de sécurité visant à orienter les personnes jugées « en détresse » vers les services locaux appropriés, comme les structures de santé mentale.

Surtout, Sam Altman a confirmé que l’entreprise appliquerait ses nouvelles normes de sécurité de manière rétroactive. Cela signifie qu’OpenAI va réexaminer les cas qui ont été signalés par le passé. Le but de cette démarche est de s’assurer qu’aucun dossier préoccupant n’a été oublié. « Cela permettra de déterminer si d’autres incidents qui auraient dû être signalés aux forces de l’ordre en vertu des nouvelles normes de sécurité d’OpenAI ont été omis, et de s’assurer qu’ils soient rapidement signalés à la GRC », peut-on lire dans la déclaration du ministre.

Enfin, l’entreprise s’est engagée à évaluer la meilleure façon d’intégrer des experts canadiens. Des spécialistes en protection de la vie privée, en santé mentale et en application de la loi participeront désormais au processus d’identification et d’examen des cas à haut risque impliquant des utilisateurs canadiens de la technologie d’OpenAI.

La Colombie-Britannique demande des comptes

Avant même sa rencontre avec le PDG d’OpenAI, Evan Solomon avait clairement affiché sa position. Invité plus tôt mercredi à l’émission Power and Politics de CBC, il a révélé avoir dit à Sam Altman que les habitants de Tumbler Ridge méritaient des excuses pour le rôle joué par l’entreprise dans les événements qui ont mené à la tuerie.

Le ministre fédéral a également précisé qu’il appuyait « absolument » la même demande formulée par le premier ministre de la Colombie-Britannique, David Eby. Ce dernier doit d’ailleurs rencontrer le patron d’OpenAI ce jeudi. Selon la procureure générale de la province, Niki Sharma, l’objectif de cette entrevue est de déterminer si l’entreprise aurait pu, d’une manière ou d’une autre, empêcher la fusillade.

Au-delà de ce cas spécifique, Niki Sharma a souligné qu’il existait une question bien plus large à laquelle Ottawa devait s’atteler : celle de la réglementation et de la supervision des plateformes comme OpenAI. La tragédie de Tumbler Ridge pourrait ainsi devenir un catalyseur pour un encadrement législatif plus strict de l’intelligence artificielle au Canada.

Une enquête du coroner pour faire la lumière

La réponse à cette crise ne sera pas que politique ou technologique ; elle sera également judiciaire. Mardi, le coroner en chef de la Colombie-Britannique, le Dr Jatinder Baidwan, a annoncé l’ouverture d’une enquête officielle sur la fusillade. Fait notable, cette enquête examinera spécifiquement le rôle joué par l’intelligence artificielle dans le drame.

Cette annonce place de nouveau OpenAI sous les projecteurs. La procureure générale Niki Sharma a publiquement exprimé son espoir de voir l’entreprise participer activement à l’enquête du coroner. Elle l’a invitée à partager toutes les informations dont elle dispose pour aider à comprendre l’enchaînement des faits.

Les conclusions de cette enquête pourraient être déterminantes. Elles permettront non seulement d’éclaircir les circonstances de la tuerie de Tumbler Ridge, mais aussi, potentiellement, d’établir un précédent sur la responsabilité des entreprises d’IA lorsque leurs créations sont impliquées dans des actes de violence.

Selon la source : lapresse.ca