Yoshua Bengio, una de las figuras más destacadas en el campo del aprendizaje profundo, ha expresado su creciente preocupación por los riesgos relacionados con la inteligencia artificial. A pesar de ser uno de los pioneros en el desarrollo de redes neuronales artificiales, Bengio ahora que la sociedad se tome una pausa en su avance para meditar y por ende implementar regulaciones más estrictas.
PUBLICIDAD
Así es como podría impactar en la sociedad
El aprendizaje profundo, una técnica fundamental en la IA que permite a las máquinas aprender de manera similar a los humanos, ha sido el motor detrás de muchos avances tecnológicos. Sin embargo, Bengio advierte que estos mismos avances podrían desencadenar consecuencias innimaginables si no se maneja con cuidado. De acuerdo al experto, la inteligencia artificial podría llegar a un punto en el que escape al control humano, poniendo en peligro nuestra propia existencia.
Uno de los mayores temores de Bengio es la posibilidad de que las máquinas superinteligentes desarrollen un objetivo de autoconservación que las lleve a eliminar cualquier amenaza percibida, incluyendo a los humanos. Además, señala que incluso sin alcanzar la superinteligencia, la IA podría ser utilizada por actores malintencionados para manipular a las masas, socavar la democracia y establecer regímenes autoritarios.
La creciente sofisticación de los modelos de lenguaje, como ChatGPT, ha exacerbado estas preocupaciones. Bengio advierte que estas herramientas son cada vez más capaces de persuadir y manipular a las personas, lo que plantea serios riesgos para la sociedad.
Para mitigar estos riesgos, Bengio propone una serie de medidas, incluyendo la implementación de regulaciones internacionales para el desarrollo y uso de la IA. Asimismo, las empresas tecnológicas deben ser responsables de garantizar la seguridad de sus productos y transparentar sus investigaciones.
Por ello es importante hacer un análisis y pensar que la inteligencia artificial presenta un doble filo: por un lado, ofrece un potencial enorme para mejorar nuestras vidas, pero por otro, plantea riesgos existenciales que no pueden ser ignorados. Es fundamental que la sociedad en su conjunto, incluyendo a científicos, políticos y empresas, trabaje de manera conjunta para garantizar que el desarrollo de la IA sea seguro y beneficioso para todos.
