Nota del editor de AIID: La fuente original incluye el artículo retirado en cuestión. También se encuentra aquí.

Cuando una profesora especializada en integridad académica escribió un artículo de opinión que defendía a las universidades contra las acusaciones de que la inteligencia artificial había devaluado sus títulos, los grupos académicos de WhatsApp se encendieron. La mayoría de los académicos están familiarizados con los patrones de lenguaje generados por las herramientas de IA tras corregir ensayos de estudiantes en la era de Claude y ChatGPT. "Lo supe en cuanto leí el primer párrafo", comentó uno después. El propio artículo de opinión había sido escrito con IA.

La Universidad de Western Sydney reconoció en respuesta a las consultas que la profesora Cath Ellis, vicerrectora de calidad e integridad, había usado IA para escribir el artículo publicado por The Sydney Morning Herald y The Age el domingo, basándose en su investigación previa en el campo. El artículo argumentaba que los estudiantes deberían mantener la fe en el sistema de educación superior, y fue enviado en respuesta a un artículo anterior de Kylie Moore-Gilbert de la Universidad Macquarie que argumentaba que las universidades estaban cometiendo "fraude industrial generalizado" al aceptar dinero de estudiantes y darles títulos que no habían ganado.

La defensa de la autora y las pistas textuales de la IA

Pero Ellis negó que su artículo fuera escrito "por" IA. "Fue escrito con IA, y hay una gran diferencia ahí", dijo. Dijo que escribió algunos pensamientos en el tren camino al trabajo y luego pidió al asistente de IA Copilot que los organizara en una estructura coherente. "Lo veo realmente como una especie de miembro de mi equipo", dijo. "Realmente siento que me ha permitido enfocar más mi tiempo y energía en lo que realmente importa, que son las ideas, el pensamiento... en lugar de pasar mucho tiempo escribiendo oraciones desde cero". Los académicos señalaron varios indicios de que el artículo de Ellis fue escrito por IA, incluyendo casos donde tres verbos o conceptos se enumeran juntos, conocido como la regla de tres.

Moore-Gilbert dijo que sus sospechas se despertaron por el uso excesivo de oraciones cortas y declarativas como: "No es esto. Es eso". También notó una gran cantidad de jerga innecesaria que no tenía sentido cuando se analizaba en profundidad. "Por ejemplo, la repetición de 'asegurar el aprendizaje' o 'artefacto' me parecieron elecciones extrañas de palabras en el contexto en que se usaron", dijo Moore-Gilbert.

Choque de políticas: Universidad frente a estándares editoriales

El incidente expone las diferentes normas en el uso de IA entre instituciones e industrias. WSU ha adoptado la IA y alienta a sus estudiantes y académicos a usarla. Un portavoz de la universidad dijo que el uso de la tecnología por parte de Ellis fue "sofisticado y apropiado" y reflejó la "posición institucional de IA centrada en el humano" de WSU. "Para escribir su artículo de opinión, la profesora Ellis subió 40,000 palabras de sus propios materiales originales a un Modelo de Lenguaje Grande (LLM) de Copilot", dijo el portavoz.

"El modelo resumió su extensa base de conocimiento, proporcionando indicaciones. Esta fue la base de los primeros borradores, reflejando el propio pensamiento, ideas y opiniones de la profesora Ellis construidos durante más de una década de trabajo dedicado como líder global en este campo". La oficina de medios dijo que estaba al tanto de que se había usado IA para apoyar la edición, estructura y refinamiento del lenguaje basado en las propias ideas de Ellis. Ningún otro artículo de opinión ofrecido a esta publicación había sido producido de la misma manera.

Esta publicación tiene pautas estrictas sobre el uso de IA y permite a sus empleados usarla como herramienta donde hay un beneficio genuino, pero no para escribir historias para publicación. Ellis dijo que estas nunca le habían sido comunicadas. "Si lo hubiera sabido, absolutamente nunca lo habría enviado", dijo. El editor ejecutivo de esta publicación, Luke McIlveen, dijo que a todos los nuevos colaboradores se les pediría garantizar que la IA no había sido usada para escribir o construir artículos.

"Nuestra posición sobre el uso de IA es clara: no puede ser usada para escribir historias para publicación. Los programas de detección de IA son útiles, pero no infalibles. Si nuestros editores creen que el trabajo de un autor no es completamente suyo, no será publicado". El artículo ha sido removido de los sitios web del Herald y Age. La editora del Herald, Jordan Baker, dijo que la publicación no había sido informada del uso de IA en la compilación del artículo ni por la autora ni por WSU, y que no cumplía con los estándares editoriales.

El debate abierto sobre la autoría y el impacto cognitivo

La situación también ha planteado preguntas sobre la autoría. "Todavía estamos debatiendo eso", dijo el Dr. Francesco Bailo, codirector del Centro de IA, Confianza y Gobernanza de la Universidad de Sydney.

"Cuando escribimos algo, ponemos nuestro nombre en ello. Hay dos líneas de pensamiento: si pones tu nombre en algo, deberías haber escrito cada palabra, o cómo escribo mis cosas es mi propio asunto, no tienes que ver cómo se hace la salchicha". Las herramientas para transcripción, gramática y traducción están todas impulsadas por IA. "Incluso el hecho de que estés usando un procesador de texto, puede influir en tu escritura. Al final del día, no estás evaluando el proceso cuando escribes algo. Estás evaluando el producto final", dijo Bailo.

Las opiniones sobre esto varían: en TikTok abundan los videos de personas tirando libros generados por IA, mientras que la semana pasada, estudiantes de la Universidad de Arizona abuchearon al exjefe de Google Eric Schmidt cuando intentó hablarles sobre IA. Los estudios han mostrado que la dependencia de la IA puede llevar a atrofia cognitiva, habilidades de pensamiento crítico más débiles y una disminución en la creatividad.

Mollie Dollinger de la Universidad Curtin, quien supervisa el aseguramiento del aprendizaje, dijo que los líderes en las universidades deben encontrar una manera de "llevar a la gente en el viaje con nosotros". "Usar IA en piezas de escritura de alto perfil, ya sea un artículo de revista o un artículo de periódico, o un comunicado de prensa para la universidad, es una elección, y esa elección obviamente señala cuánto estás tratando de mover la aguja", dijo. Dollinger está entre las docenas de signatarios de la Declaración de Castlereagh, un llamado por un enfoque uniforme y nacional para la IA y la educación.