El CEO de OpenAI aboga por la regulación de la IA

Los expertos difieren en las rutas hacia la regulación de la IA

Blumenthal sugirió que algunos métodos de regulación de la IA podrían incluir el desarrollo de tarjetas de puntuación para los sistemas de IA que brinden información, como en qué datos se están capacitando los modelos de IA. También recomendó limitar el uso de IA en la toma de decisiones que afectan los medios de vida de los consumidores.

Blumenthal dijo que a las empresas de IA también se les debería exigir que prueben rigurosamente los sistemas de IA antes de lanzarlos al público.

De hecho, Altman de OpenAI dijo que, antes de lanzar cualquier sistema nuevo, OpenAI realiza sus pruebas y al mismo tiempo involucra a partes externas para las auditorías del sistema. Antes de lanzar su último modelo de IA, GPT-4, OpenAI pasó seis meses realizando pruebas y equipos rojos externos, dijo. Sin embargo, Altman estuvo de acuerdo con Blumenthal en que las intervenciones regulatorias, como los requisitos de licencia y prueba para el desarrollo de modelos de IA, serán necesarias para abordar los riesgos.

"Este es un momento extraordinario para trabajar en inteligencia artificial, pero, a medida que avanza esta tecnología, entendemos que la gente está ansiosa por saber cómo puede cambiar la forma en que vivimos", dijo Altman. "Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar de las tremendas ventajas".

Algunos senadores propusieron crear una nueva agencia gubernamental para supervisar la regulación de la IA, a lo que se opuso Christina Montgomery, directora de privacidad y confianza de IBM y testigo en la audiencia. Montgomery destacó una afirmación hecha por varias agencias de aplicación de la ley, incluida la Comisión Federal de Comercio, de que pueden hacer cumplir las leyes de protección al consumidor existentes con respecto a los sistemas de inteligencia artificial.

En cambio, Montgomery instó al Congreso a gobernar el despliegue de IA en casos de uso específicos en lugar de regular la tecnología en sí.

Montgomery dijo que eso implicaría definir riesgos y crear diferentes reglas para diferentes niveles de riesgo. Por ejemplo, un riesgo que los senadores destacaron durante la audiencia fue que los malos actores usaran herramientas como ChatGPT para crear y difundir desinformación electoral, lo que, según Montgomery, representaría una categoría de alto riesgo.

Gary Marcus, profesor de psicología y neurociencia en la Universidad de Nueva York, y otro testigo durante la audiencia, destacó la necesidad de acceso de terceros a los sistemas de IA para realizar pruebas, particularmente cuando se trata de la idea de desarrollar tarjetas de puntuación para sistemas de IA.

Marcus dijo que aún quedan desafíos técnicos, incluida la comprensión de cómo los modelos avanzados de IA generalizan la información de grandes conjuntos de datos.

"Es importante que los científicos sean parte de ese proceso y que tengamos una transparencia mucho mayor sobre lo que sucede en estos sistemas", dijo Marcus.

Makenzie Holland es redactora de noticias, y cubre las grandes tecnologías y la regulación federal. Antes de unirse a TechTarget Editorial, fue reportera general de Wilmington StarNews y reportera de crimen y educación en Wabash Plain Dealer.