La Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) abrió una indagatoria en contra OpenAI y ChatGPT por posibles daños al consumidor, resultado de sus mecanismos de recopilación de datos y la publicación de información falsa, de acuerdo con una demanda de investigación civil a la que tuvo acceso The Washington Post.
El documento explica que el organismo regulador de la competencia en Estados Unidos inició una investigación federal para resolver posibles «riesgos a los consumidores, incluido el daño a la reputación». La pesquisas buscan determinar si la empresa es acreedora a una multa para compensar monetariamente a los usuarios afectados. La misiva incluye 49 solicitudes de información escrita. Y 17 peticiones de documentos con temas relacionados al desarrollo y capacitación de los modelos de lenguaje basados en inteligencia artificial (IA).
El organismo intenta descubrir como OpenAI evalúa la data utilizada en la capacitación de sus sistemas IA y cuáles son las garantías que ofrece para evitar que ChatGPT entregue respuestas falsas o erróneas.También busca comprender el funcionamiento de las API de la empresa y precisar los mecanismos de protección para los datos de los usuarios cuando son utilizados por terceros.
La demanda de investigación civil solicita a OpenAI que “describa en detalle el proceso de la empresa para refinar un modelo de lenguaje grande con el fin de modificar una versión existente». Además solicita que explique las circunstancias bajo las cuales se debe actualizar el sistema. De igual forma, quién hace este proceso de refinamiento, los pasos del mismo y el mecanismo para evaluar si los ajustes fueron exitosos.
Lanzamiento de ChatGPT sorprendió al mundo
El lanzamiento de ChatGPT por parte de OpenAI en noviembre pasado sorprendió al mundo. Lo hizo al mostrar el poder de los grandes modelos de lenguaje (o LLM, por sus siglas en inglés). Una forma de inteligencia artificial (IA) conocida como «IA generativa» que puede producir en segundos contenido similar al creado por el ser humano.
En medio del revuelo por las capacidades de la tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo. También falso o simplemente extraño, llamado a veces «alucinaciones».
La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso el miércoles. Aunque no mencionó la investigación, dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.
