Un consorcio de académicos, especialistas en inteligencia artificial (IA) y ejecutivos, incluido Elon Musk, solicitan una moratoria de seis meses en el desarrollo de sistemas más avanzados, como el recientemente lanzado GPT-4 de OpenAI. En una carta abierta, se mencionan los riesgos potenciales para la sociedad y la humanidad.
A principios de este mes, OpenAI, respaldado por Microsoft, presentó la cuarta versión de su programa GPT (Generative Pre-trained Transformer), que ha asombrado a los usuarios con su amplio espectro de aplicaciones, desde interacciones humanas similares hasta la composición de música y resumen de documentos extensos.
El Future of Life Institute, una organización sin fines de lucro, emitió la carta, firmada por más de 1,000 personas, incluido Musk. La carta solicita que el desarrollo avanzado de la IA se detenga hasta que expertos independientes diseñen, implementen y auditen protocolos de seguridad compartidos. “Los potentes sistemas de IA deben desarrollarse solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos manejables”, afirma la carta.
La carta destaca riesgos potenciales para la sociedad y la civilización debido a la proliferación de sistemas de IA competitivos, y pide a los desarrolladores que colaboren con legisladores y autoridades reguladoras. Entre los firmantes se encuentran Emad Mostaque, CEO de Stability AI, investigadores de DeepMind, propiedad de Alphabet, y pesos pesados de la IA, como Yoshua Bengio y Stuart Eussel.
Las preocupaciones surgen cuando Europol, la fuerza policial de la UE, advierte sobre posibles abusos del sistema en intentos de phishing, desinformación y ciberdelincuencia. Mientras tanto, el gobierno del Reino Unido presentó propuestas para un marco regulatorio «adaptable» en torno a la IA, dividiendo la responsabilidad entre sus reguladores de derechos humanos, salud, seguridad y competencia.
Elon Musk, cuya empresa Tesla utiliza IA para sistemas de piloto automático, ha expresado preocupaciones sobre el desarrollo de la IA.
Desde su lanzamiento el año pasado, ChatGPT de OpenAI ha llevado a competidores a acelerar el desarrollo de modelos de lenguaje similares y a las empresas a integrar modelos de IA generativa en sus productos. OpenAI anunció recientemente asociaciones con una docena de empresas para incorporar sus servicios en su chatbot.
Sam Altman, CEO de OpenAI, no firmó la carta, según un portavoz de Future of Life. Gary Marcus, profesor de la Universidad de Nueva York y firmante de la carta, afirmó: “La carta no es perfecta, pero el espíritu es correcto: debemos reducir la velocidad hasta que entendamos mejor las ramificaciones”.
Sin embargo, algunos críticos acusan a los firmantes de promover la «exageración de la IA». Johanna Björklund, investigadora de IA y profesora asociada en la Universidad de Umeå, sugiere que en lugar de detener la investigación, los investigadores de IA deberían estar sujetos a mayores requisitos de transparencia.
La razón de esta carta abierta es que estos sistemas podrían tener riesgos para la sociedad y la humanidad si no nos aseguramos de que sean seguros y manejables. La carta pide que trabajemos juntos para crear reglas y protocolos de seguridad antes de continuar con el desarrollo de la IA.
Riesgos y beneficios de detener el desarrollo de la IA:
Riesgos:
- Retraso en la innovación: Si paramos el desarrollo de la IA, podríamos retrasar descubrimientos importantes que podrían mejorar nuestras vidas.
- Competitividad: Si solo algunas empresas o países se toman un descanso, podrían quedar atrás en comparación con los que siguen adelante.
- Pérdida de empleo e inversión: Si detenemos el desarrollo de la IA, algunas personas podrían perder sus empleos o se podrían reducir las inversiones en este campo.
Beneficios:
- Seguridad y control: Tomarse un descanso nos permitiría asegurarnos de que los sistemas de IA sean seguros y no causen daño a las personas o al mundo en general.
- Colaboración: Un descanso podría fomentar la cooperación entre diferentes empresas, países y expertos para crear reglas y protocolos de seguridad compartidos.
- Ética y transparencia: Detener el desarrollo de la IA podría llevar a una mayor transparencia y consideración de las implicaciones éticas de la tecnología.
- Adaptación social: Un descanso podría darle tiempo a la sociedad para adaptarse a los cambios y desarrollos en el campo de la IA.
