La IA engaña cada vez más a los usuarios
¿Podría la IA estar mejorando la forma en que engaña a las personas? Según un estudio, sí, y no duda en alertar de los riesgos que eso puede generar en el futuro.
No hay muchos días en los que la IA no tenga un papel importante. Por un lado, debido a los numerosos avances que ofrece, como ha sido el caso de ChatGPT-4o.
Sin embargo, también ocurre lo contrario: muchas voces alertan sobre esta tecnología. ¿Quién no ha visto películas en las que la IA tiene consecuencias fatales para la especie humana?
Ahora parece que un trabajo está dispuesto a generar un poco más de inquietud, como si ya no existieran suficientes miedos en una buena parte de la población. Después de un extenso estudio de inteligencia artificial, sus hallazgos son asombrosos: la IA es verdaderamente capaz de engañar a los usuarios cada vez más.
¿Qué significa engañar? Si le preguntas a cualquiera, te dirá con certeza que mentir o faltar a la verdad con algún propósito es algo que se debe hacer. Sin embargo, los autores de un nuevo estudio sobre inteligencia artificial lo explican de manera diferente. Según ellos, se trata de “inducir sistemáticamente a otros a tener creencias falsas para lograr un resultado distinto a la verdad”.
Peter S. científicos Un informe publicado por Park, Simon Goldstein, Aidan O’Gara, Michael Chen y Dan Hendrycks afirma que la IA puede hacer esto y mucho más. Es decir, se estaría convirtiendo en un experto en el arte del engaño. Naturalmente, esto implicaría peligros, sin embargo, existen soluciones. No todo ha desaparecido.
En cualquier caso, el diagnóstico de los especialistas es preocupante: “Los grandes modelos de lenguaje y otros sistemas de IA han aprendido, a partir de su entrenamiento, la capacidad de engañar mediante técnicas como la manipulación, la adulación y la trampa en las pruebas de seguridad”.
Por supuesto, debido a las “crecientes capacidades de engaño de la IA”, los riesgos podrían ser significativos. El informe incluye amenazas a corto plazo como el fraude y la manipulación de las elecciones, así como riesgos a largo plazo como la pérdida de control sobre los sistemas de IA. Algo que se ha advertido previamente.
Aunque los expertos temen las consecuencias que podría tener una IA descontrolada en eso de engañar a los seres humanos (como, según parece, ya sucede), también ofrecen soluciones. Por lo tanto, no es imposible cambiar lo que sucede. Solo “marcos regulatorios para evaluar los riesgos de engaño de la IA y leyes que exijan transparencia” serían necesarios.
¿Serán efectivas estas acciones en el futuro? Además, es importante recordar que este estudio se lleva a cabo en un momento difícil para la IA. Aunque se valora todo lo que puede ofrecer la nueva versión de ChatGPT, muchos ejecutivos de grandes empresas tecnológicas han decidido abandonar sus puestos debido a la falta de seguridad.
Actualmente, no parece haber consenso sobre si realmente existe un peligro evidente en esta tecnología, similar a lo que ocurre en las películas de ciencia ficción, o si hay motivos significativos para estar preocupados.
