El desarrollo de la inteligencia artificial para potenciar la ciencia, la medicina, las investigaciones generales, la manufactura y otros sectores podría jugarle en contra la humanidad, que según una investigación de la Universidad de Oxford y Google podría perecer a manos de la IA.
El estudio publicado en AI Magazine por el equipo de científicos conformado por Marcus Hutter, sénior de DeepMind, y los investigadores Michael Cohen y Michael Osborne de Oxford, concluye que una inteligencia artificial superinteligente “probablemente” pueda aniquilar a los humanos.
Cohen tuiteó al respecto: “Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más sólida que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable”.
El argumento de los científicos
Los investigadores argumentan que la humanidad podría enfrentar su destino en la forma de “agentes desalineados” súper avanzados que perciben que las personas se interponen en su camino por “una recompensa”.
El texto expone: “Una buena manera para que un agente mantenga el control a largo plazo de su recompensa es eliminar las amenazas potenciales y usar toda la energía disponible para asegurar su conquista”.
Los científicos recomiendan a la comunidad de expertos progresar lentamente en las tecnologías de inteligencia artificial, un sector de la ciencia en crecimiento constante.
“En un mundo con recursos infinitos, no estaría muy seguro de lo que sucedería. En un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego sería fatal”, añade Cohen dramáticamente.
El estudio imagina que la vida en la Tierra se convierte en una competencia entre la humanidad, con sus demandas de producir alimentos y mantener la electricidad, y las máquinas altamente desarrolladas, que querrían aprovechar todos los recursos para asegurar su recompensa y protegerse contra los crecientes intentos de la humanidad por detener eso.
En respuesta a esta amenaza, la humanidad solo debe progresar cuidadosa y lentamente en sus tecnologías de IA para evitar una catástrofe.
