Un grupo de investigadores llevó a cabo un experimento «no autorizado» en una de las comunidades de Reddit más populares, utilizando comentarios generados por inteligencia artificial para evaluar la persuasión de los modelos de lenguaje de gran escala. El experimento fue revelado por los moderadores de R/Changemyview, quienes lo describieron como una «manipulación psicológica» hacia los usuarios que no lo autorizaron. Los investigadores utilizaron LLM para crear comentarios en respuesta a las publicaciones de R/Changemyview, una subredditis donde los usuarios comparten opiniones controversiales y solicitan debates. Según los moderadores, los comentarios generados por IA asumieron diferentes identidades durante el experimento, como la de un sobreviviente de un ataque sexual, un consejero de trauma especializado en abuso y un hombre negro en contra del movimiento Black Lives Matter. Los moderadores de R/Changemyview señalaron que los investigadores violaron varias reglas de la comunidad, incluyendo la divulgación de la generación de comentarios por IA y la prohibición de robots. Reddit también tomó medidas, prohibiendo todas las cuentas asociadas con el esfuerzo de investigación y fortaleciendo sus capacidades de detección de contenido no auténtico. Los investigadores de la Universidad de Zurich defendieron su investigación, afirmando que fue aprobada por un comité de ética universitaria y que podría ayudar a proteger a los usuarios en línea de usos maliciosos. Sin embargo, los moderadores de R/Changemyview argumentaron que los usuarios no visitan la comunidad para interactuar con IA y que se sintieron intrusos. La controversia continúa mientras Reddit se comunica con la Universidad de Zurich y el equipo de investigación. Los investigadores defienden su trabajo como beneficioso, mientras que los moderadores insisten en que la comunidad merece un espacio sin intervenciones no autorizadas.
Un grupo de investigadores ha llevado a cabo un experimento «no autorizado» durante varios meses en una de las comunidades más populares de Reddit, utilizando comentarios generados por inteligencia artificial para probar la persuasión de los modelos de lenguaje grandes. Los moderadores de R/Changemyview revelaron este experimento el fin de semana, describiéndolo como una «manipulación psicológica» de los usuarios que no respetan.
El equipo de moderadores de CMV informó a la comunidad sobre este experimento realizado por investigadores de la Universidad de Zurich, que implementó comentarios generados por IA para estudiar cómo la inteligencia artificial podría influir en las opiniones de los usuarios.
Los investigadores utilizaron LLM para generar comentarios en respuesta a las publicaciones de R/Changemyview, una subred en la que los usuarios comparten opiniones controvertidas y solicitan debates. Según los moderadores, los comentarios durante el experimento adoptaron diversas identidades, como la de un sobreviviente de ataque sexual, un consejero de trauma especializado en abuso, y un hombre negro en contra de las vidas negras. A pesar de que muchos de los comentarios originales fueron eliminados, algunos aún son visibles en un archivo creado por 404 Media.
En su trabajo, los investigadores mencionan cómo personalizaron las respuestas utilizando información del historial del usuario inicial, incluyendo atributos personales como sexo, edad, etnia, ubicación y orientación política.
Los moderadores de R/Changemyview señalaron que los investigadores violaron varias reglas de la subred, como la falta de divulgación al generar comentarios y la prohibición de robots. Presentaron una queja formal a la Universidad de Zurich y solicitaron a los investigadores que retuvieran su trabajo.
Reddit también tomó medidas al respecto. El oficial legal, Ben Lee, declaró que las acciones de los investigadores fueron moral y legalmente incorrectas, violando las reglas del sitio web. Todas las cuentas asociadas con el esfuerzo de investigación de la Universidad de Zurich fueron prohibidas.
Los investigadores de la Universidad de Zurich afirmaron que su investigación fue aprobada por un comité de ética universitaria y que su trabajo podría beneficiar a comunidades en línea como Reddit al proteger a los usuarios de usos maliciosos.
A pesar de la defensa de los investigadores sobre los beneficios potenciales de su estudio, los moderadores de R/Changemyview argumentaron que la investigación no era necesaria y mencionaron que investigadores de OpenAI han llevado a cabo experimentos utilizando datos de R/Changemyview sin experimentar con seres humanos.
En última instancia, este experimento ha generado controversia en la comunidad de Reddit y ha planteado cuestiones éticas sobre la influencia de la inteligencia artificial en las interacciones en línea. La declaración del director legal de Reddit sobre este asunto también refleja la gravedad de la situación y la importancia de proteger a los usuarios de este tipo de manipulación.
FUENTE
