Uno de los confundadores de OpenAI advirtió que la superinteligencia podría salirse de control y causar la extinción humana.
PUBLICIDAD
OpenAI: “El poder de la superinteligencia también podría ser muy peligroso”
“La superinteligencia será la tecnología más impactante que la humanidad jamás haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo. Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría conducir a la pérdida de poder de la humanidad o incluso a la extinción humana. “, escribieron Ilya Sutskever y Jan Leike, mediante una publicación este martes.
La Inteligencia Artificial debe seguir la “intención humana”
Agregaron también que los mismos avances podrían ser vistos dentro de una década y que para gestionar los riesgos deben crearse instituciones de gobernanza para que la IA “sigan la intención humana”.
“Actualmente, no tenemos una solución para dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva deshonesta. Nuestras técnicas actuales para alinear la IA, como el aprendizaje de refuerzo a partir de la retroalimentación humana, se basan en la capacidad de los humanos para supervisar la IA. Pero los humanos no podrán supervisar de manera confiable los sistemas de inteligencia artificial mucho más inteligentes que nosotros, por lo que nuestras técnicas de alineación actuales no se escalarán a la superinteligencia”, escribieron. “Necesitamos nuevos avances científicos y técnicos”.
Lee también: Mega Millions: ¿Cuánto acumula el premio mayor de este 7 de julio?
Alinear la IA con la intención humana
“Si bien este es un objetivo increíblemente ambicioso y no tenemos garantizado el éxito, somos optimistas de que un esfuerzo concentrado y concertado puede resolver este problema”, agregaron.
Con el objetivo de mejorar los modelos de OpenAI, como ChatGPT, el nuevo enfoque debe estar dirigido a los desafíos para alinear la Inteligencia Artificial con la intención humana y la superinteligencia.
