• 10 Avr, 2023
• No comment

La FTC devrait enquêter sur OpenAI et bloquer le GPT pour comportement « trompeur », affirme le groupe de politique en matière d’IA.

Le logo OpenAI est visible sur un téléphone mobile devant un écran d’ordinateur affichant la sortie de ChatGPT, le 21 mars 2023, à Boston. La Federal Trade Commission des États-Unis a lancé une enquête sur le créateur de ChatGPT OpenAI et si la société d’intelligence artificielle a violé les lois sur la protection des consommateurs en supprimant des données publiques et en publiant de fausses informations via son chatbot, selon des rapports du Washington Post et du New York Times. Crédit : AP Photo/Michael Dwyer, Fichier

La Federal Trade Commission des États-Unis a lancé une enquête sur le créateur de ChatGPT OpenAI et si la société d’intelligence artificielle a violé les lois sur la protection des consommateurs en supprimant des données publiques et en publiant de fausses informations via son chatbot.

L’agence a envoyé à OpenAI une lettre de 20 pages demandant des informations détaillées sur sa technologie d’IA, ses produits, ses clients, ses garanties de confidentialité et ses dispositions en matière de sécurité des données.

Un porte-parole de la FTC n’a fait aucun commentaire sur l’enquête, qui a été rapportée pour la première fois par le Washington Post jeudi.

Le document de la FTC publié par le Post a déclaré à OpenAI que l’agence enquêtait pour savoir si elle s’était « engagée dans des pratiques déloyales ou trompeuses en matière de confidentialité ou de sécurité des données » ou de pratiques préjudiciables aux consommateurs.

Le fondateur d’OpenAI, Sam Altman, a tweeté sa déception que l’enquête ait été divulguée dans une « fuite », notant que cette décision « n’aiderait pas à instaurer la confiance », mais a ajouté que la société travailler avec la FTC.

« Il est très important pour nous que notre technologie soit sûre et pro-consommateur, et nous sommes convaincus que nous respectons la loi », a-t-il écrit. « Nous protégeons la vie privée des utilisateurs et concevons nos systèmes pour en savoir plus sur le monde, et non sur les particuliers. »

La décision de la FTC représente la menace réglementaire la plus importante à ce jour pour l’industrie naissante mais à croissance rapide de l’IA, bien que ce ne soit pas le seul défi auquel ces entreprises sont confrontées. La comédienne Sarah Silverman et deux autres auteurs ont poursuivi OpenAI et la société mère de Facebook, Meta, pour violation du droit d’auteur, affirmant que les systèmes d’intelligence artificielle des entreprises avaient été « formés » illégalement en les exposant à des ensembles de données contenant des copies illégales de leurs œuvres.

Jeudi, OpenAI et l’Associated Press ont annoncé un accord en vertu duquel la société d’intelligence artificielle accordera une licence aux archives d’actualités d’AP.

Altman est devenu une sorte d’ambassadeur mondial de l’IA à la suite de son témoignage devant le Congrès en mai et d’une tournée ultérieure des capitales européennes où les régulateurs mettaient la touche finale à un nouveau cadre réglementaire de l’IA. Altman lui-même a appelé à une réglementation de l’IA, bien qu’il ait eu tendance à mettre l’accent sur des menaces existentielles difficiles à évaluer, telles que la possibilité que des systèmes d’IA superintelligents puissent un jour se retourner contre l’humanité.

Certains affirment que se concentrer sur un « trope de science-fiction » lointain d’une IA surpuissante pourrait rendre plus difficile la prise de mesures contre les dommages déjà existants qui obligent les régulateurs à approfondir la transparence des données, les comportements discriminatoires et le potentiel de supercherie et de désinformation.

« C’est la peur de ces systèmes et notre manque de compréhension à leur sujet qui font que tout le monde panique collectivement », a déclaré Suresh Venkatasubramanian, informaticien à l’Université Brown et ancien directeur adjoint pour la science et la justice au Bureau de la science et de la justice de la Maison Blanche. Technology Policy, a déclaré l’AP en mai. « Cette peur, qui est très infondée, est une distraction de toutes les préoccupations auxquelles nous sommes confrontés en ce moment. »

La nouvelle de l’enquête OpenAI de la FTC a éclaté quelques heures seulement après une audience combative du comité judiciaire de la Chambre au cours de laquelle la présidente de la FTC, Lina Khan, a affronté des législateurs républicains qui ont déclaré qu’elle avait été trop agressive dans la poursuite d’entreprises technologiques pour des actes répréhensibles présumés.

Les républicains ont déclaré qu’elle harcelait Twitter depuis son acquisition par Elon Musk, poursuivant arbitrairement de grandes entreprises technologiques et refusant de se récuser de certains cas. Khan a repoussé, arguant que davantage de réglementation est nécessaire à mesure que les entreprises se sont développées et que le conglomérat technologique pourrait nuire à l’économie et aux consommateurs.