Confirmado | La IA podría manipularte si le brindas esta información, según expertos

Tras 6 años del impactante suceso que generó asombro en el mundo de la ciencia y la tecnología, donde el Proyecto Debater, un sistema de inteligencia artificial (IA) que fue entrenado previamente con 10.000 millones de frases y 400 millones de artículos, se enfrentó y perdió contra Harish Natarajan, graduado de Oxford y Cambridge y campeón del mundo de debates, la IA ha logrado actualizarse y cambiar el panorama de manera sorprendente.

Con el avance de la tecnología y la llegada de nuevos modelos de inteligencia artificial, se ha publicado un reciente estudio en la revista Nature Human Behaviour que reveló que modelos como GPT-4 logran convencer más que las personas en el 64% de los debates. Esta capacidad un tanto persuasiva, basada en datos personales del usuario, puede plantear diversas oportunidades, pero también serios riesgos éticos y sociales.

PUEDES VER: La IA podría estar instalada en nuestros cerebros: Apple anuncia nueva actualización para sus dispositivos

¿Una nueva forma de manipulación digital?

Esta investigación fue liderada por el investigador Francesco Salvi, quien enfrentó a 900 personas con el modelo GPT-4 en debates sobre diferentes temas. La IA tuvo un sorpresivo éxito al obtener información personal básica de sus oponentes: edad, género, educación, entre otros. Con ello, la máquina adaptaba sus respuestas para ser más convincentes contra sus oponentes. Salvi advierte que esta capacidad no es necesariamente mala, pero sí requiere una mayor vigilancia: “La personalización no implica manipulación, pero la línea puede difuminarse si no hay transparencia ni control”.

Este experimento demostró que, cuando la máquina no tenía información relacionada con su oponente, su efectividad se igualaba a la de los humanos. Sin embargo, con los datos personalizados, esta lograba cambiar opiniones en casi dos tercios de los casos. “Es como un vendedor que adapta su discurso según el cliente”, explica Salvi. El riesgo está en que esa reciente capacidad también pueda usarse para promover desinformación o influir políticamente en las personas.

PUEDES VER: La IA podría predecir el clima, según estudios científicos de Cambrige, Google y Microsoft

Riesgos reales y llamados hacia una acción responsable

Ante este evidente crecimiento de la inteligencia artificial, los especialistas advierten que estos sistemas ya operan en escenarios cotidianos, como redes sociales y plataformas comerciales. Asimismo, la ciberexperta Nataly Kremer, coautora de la investigación, contó que un chatbot la trató como mujer sin habérselo dicho, al haber obtenido información de un evento al que asistió. Dan Demeter, del equipo de ciberseguridad de Kaspersky, advirtió que esa recopilación de datos también puede ser blanco de ataques cibernéticos.

Por consiguiente, los investigadores proponen soluciones urgentes. Salvi insiste en tres medidas clave: transparencia sobre cuándo se usan estrategias persuasivas, auditorías para detectar sesgos y restricciones para impedir que estas tecnologías se usen en elecciones o asesoría bancaria. “No se trata de prohibir, sino de regular. Hay que debatir en serio sobre rendición de cuentas”, afirma.

En conclusión, la inteligencia artificial no solo cumple con la función de informar: también puede convencerte de manera maliciosa. Y si bien esto puede usarse para mejorar diversas experiencias, sin una regulación adecuada se corre el riesgo de que también sirva para manipular opiniones o difundir propaganda política.