Demanda colectiva contra Grammarly por uso no autorizado de identidades

Superhuman, la empresa tecnológica detrás del software de escritura Grammarly, enfrenta una demanda colectiva por una herramienta de IA que presentaba sugerencias de edición como si provinieran de autores y académicos establecidos, ninguno de los cuales consintió que sus nombres aparecieran en el producto.

Julia Angwin, periodista de investigación galardonada que fundó The Markup, una organización de noticias sin fines de lucro que cubre el impacto de la tecnología en la sociedad, es la única demandante nombrada en la demanda, que no solicita una cantidad específica de daños pero argumenta que los daños de toda la clase demandante superan los 5 millones de dólares. Ella estuvo entre las muchas personas, junto con Stephen King y Neil deGrasse Tyson, ofrecidas a través de la herramienta "Expert Review" de Grammarly como una especie de editor virtual para los usuarios.

La demanda federal y sus alegaciones

La demanda federal, presentada el miércoles por la tarde en el Distrito Sur de Nueva York, establece que Angwin, en nombre propio y de otros en situación similar, "desafía la apropiación indebida de Grammarly de los nombres e identidades de cientos de periodistas, autores, escritores y editores para obtener ganancias para Grammarly y su propietario, Superhuman".

La queja llega cuando Superhuman ya ha decidido discontinuar la función en medio de una significativa reacción pública negativa. "Después de una cuidadosa consideración, hemos decidido desactivar Expert Review mientras reimaginamos la función para hacerla más útil para los usuarios, al tiempo que damos a los expertos control real sobre cómo quieren ser representados, o no representados en absoluto", dijo Ailian Gan, directora de gestión de productos de Superhuman, en una declaración a WIRED poco antes de que se presentara la demanda.

Funcionamiento de la herramienta controvertida

Como informó WIRED a principios de este mes, Superhuman añadió el año pasado un conjunto de widgets impulsados por IA a la plataforma, incluido uno que pretendía tener a un escritor veterano (vivo o muerto) opinando con una crítica del texto del usuario. Aunque un descargo de responsabilidad aclaraba que ninguna de las personas citadas había respaldado o participado directamente en el desarrollo de esta herramienta, que aprovechaba un modelo de lenguaje grande subyacente, varios escritores, incluidos periodistas de WIRED, expresaron frustración por que Grammarly invocara sus semejanzas y aparentemente regurgitara el trabajo de sus vidas con estos agentes de IA.

Aspectos legales del caso

El abogado de Angwin, Peter Romer-Friedman, dice que las leyes de larga data en Nueva York y California, donde tiene su sede Superhuman, prohíben claramente el uso comercial del nombre y la imagen de una persona sin su permiso. "Legalmente, creemos que es un caso bastante directo", dice a WIRED. "Más ampliamente, una de las razones por las que estamos presentando este caso es que podemos ver lo que está pasando en nuestra sociedad: que muchos profesionales que pasan años, o en el caso de Julia décadas, perfeccionando una habilidad o un oficio, luego ven que su nombre o sus habilidades están siendo apropiados por otros sin su consentimiento".

Respuesta de la empresa

En una declaración por correo electrónico, el CEO de Superhuman, Shishir Mehrotra, dijo que las afirmaciones en la demanda "carecen de mérito y nos defenderemos enérgicamente contra ellas. Independientemente, hay un mejor enfoque para traer expertos a nuestra plataforma y estamos trabajando en una versión que proporcionará significativamente más beneficio tanto a los usuarios como a los expertos".

Experiencia personal de la demandante

Angwin dice a WIRED que cuando se enteró del uso de su nombre y reputación por parte de Grammarly a través del boletín tecnológico Platformer, se sorprendió de haber sido clonada, por así decirlo. "Sabes, los deepfakes son algo en lo que siempre pienso que las celebridades se ven envueltas, no los periodistas regulares", dice. "Simplemente pensé, ¿me estás tomando el pelo?"

Angwin se sintió aún más ofendida por los consejos que su doppelgänger digital estaba dispensando. "No era solo anodino", dice. "En realidad estaba empeorando las cosas activamente". En un ejemplo, Angwin dice, la versión de Grammarly de ella sugirió que una oración simple fuera revisada para ser más larga y compleja de una manera que "en realidad la hacía más difícil de entender". En otro caso, aconsejó al usuario expandir un tema que en realidad no era pertinente al texto.

"Me pareció muy disperso", dice Angwin. "Me sorprendió lo malo que era".

Mehrotra publicó por separado en LinkedIn el miércoles sobre la decisión de discontinuar Expert Review. "Durante la semana pasada, recibimos críticas válidas de expertos que están preocupados de que el agente tergiversara sus voces", escribió Mehrotra. "Este tipo de escrutinio mejora nuestros productos, y lo tomamos en serio".