La inteligencia artificial es una de las áreas más novedosas y desafiantes de la tecnología, pero también es una de las más impredecibles y potencialmente peligrosas. Así lo advierte el experto en esta materia y profesor de la Universidad de Nueva York Gary Marcus, quien hace unos meses publicó un artículo en el que alertaba sobre los posibles riesgos de esta herramienta.
Algo increíble está sucediendo en el mundo de la inteligencia artificial, y no es del todo bueno, manifestó hace seis meses un articulo de la BBC. Según el articulo, el lanzamiento de ChatGPT nos lleva al "momento Jurassic Park" de las máquinas. En la película de Steven Spielberg, los dinosaurios creados por la ingeniería genética escapaban de su confinamiento y ponían en peligro a los humanos. De manera similar, tememos que los sistemas de IA terminen fuera de control.
La inteligencia artificial es una de las áreas más novedosas y desafiantes de la tecnología, pero también es una de las más impredecibles y potencialmente peligrosas. Así lo advierte el experto en esta materia y profesor de la Universidad de Nueva York Gary Marcus, quien hace unos meses publicó un artículo en el que alertaba sobre los posibles riesgos de esta herramienta. "Algo increíble está sucediendo en el mundo de la inteligencia artificial, y no es del todo bueno", manifestó hace seis meses Marcus y recoge BBC. "Cuando escribí este artículo, creo que la gente pensó que estaba loco o que era alarmista", ha asegurado Marcus en una entrevista con la cadena británica.
Según Marcus, el lanzamiento de ChatGPT nos lleva al "momento Jurassic Park" de las máquinas. En la película de Steven Spielberg, los dinosaurios creados por la ingeniería genética escapaban de su confinamiento y ponían en peligro a los humanos. De manera similar, Marcus teme que los sistemas de IA terminen fuera de control. Creo que estos sistemas pueden ser muy destructivos. Y parte de la razón del potencial de destrucción es que no son confiables. Estos programas pueden inventar algo y decirle [al usuario] qué es un hecho. Y también pueden ser usados por personas para ese fin.
Podríamos estar cerca de "un ambiente de posverdad"
Además de los generadores de texto, los programas que manipulan imágenes también evolucionan rápidamente. Es el caso de una foto del papa Francisco con una chaqueta plateada, realizada con el programa Midjourney, que dejó confundido a Internet por unas horas. Esto tuvo consecuencias inofensivas, pero fue una muestra del potencial para marcar el comienzo de la magnitud entre lo real y lo ficticio. "Si no tomamos medidas, estamos cerca de entrar en un ambiente de posverdad".
Por otro lado, la IA también puede dar respuestas que no son ciertas como verdaderas. No tenemos ninguna garantía formal de que estos programas funcionen correctamente, incluso cuando hacen cálculos matemáticos. A veces son correctos, a veces no. La falta de control y fiabilidad son problemas que veo. La falta de control y fiabilidad son problemas fundamentales que plantea la inteligencia artificial, y aunque no es una situación terrible, "la gente les está dando cada vez más poder. Y no sabemos qué pueden hacer esos sistemas en una situación determinada".
Con el rápido avance de la IA hay que adoptar una postura de cautela y entusiasmo con desconfianza. Sin embargo, el posible escepticismo ha sido objeto de burlas, especialmente en las redes sociales. Hinton, considerado el "padrino de la IA", recientemente anunció su salida de Google y ha expresado su preocupación por los problemas de la inteligencia artificial, que según él, son "quizás más urgentes que los del cambio climático". Aunque Hinton tiene diferentes puntos de vista sobre algunos aspectos, está de acuerdo en que el control es fundamental. Admitamos que es difícil estimar los riesgos de la IA, ya que no existen suficientes datos para calcularlos.
Hay verdadera preocupación por el uso de la IA para socavar las democracias. Para mí, la posibilidad de que estas herramientas se utilicen para socavar las democracias es esencialmente del 100%. Ahora, no sabemos si existe la posibilidad de que los robots se apoderen del planeta. Es razonable que algunas personas se planteen en este escenario. Estamos construyendo herramientas muy poderosas. Debemos considerar estas amenazas, según Marcus.
No hay comentarios:
Publicar un comentario