Antes de hacer cualquier acusación sobre uso “ilegítimo” de inteligencia artificial (AI) al redactar textos, “hay que entender primero cómo funcionan esos sistemas”, pues los softwares con los que en la actualidad se determinan porcentajes de intervención de una IA en diversos escritos son una suerte de cajas negras para la mayoría de los usuarios; es decir, “no sabemos qué hacen, qué miden ni cómo. No se puede confiar en un resultado sin entender qué tiene la máquina adentro”, dice Fernanda López Escobedo, especialista en lingüística forense computacional.
En entrevista con La Jornada, la también académica de la Escuela Nacional de Ciencias Forenses de la Universidad Nacional Autónoma de México (UNAM) considera que en su ámbito no tendría validez la acusación que se hizo contra el escritor peruano David Silva Rojas, cuya novela Donde el agua trabaja, ganadora del premio Almadía Ventosa-Arrufat, fue analizada en la plataforma Pangram la cual arrojó que fue escrita 99 por ciento por una IA.
Por el contrario, quienes hicieron la “denuncia” tendrían que explicar la manera por la que confiaron en tal “dictamen” apoyándose en un software, cuyo funcionamiento es poco probable que conozcan y entiendan.
“No basta decir: ‘ah, pues utilicé la herramienta y este fue el resultado que me salió’. Desde el punto de vista forense no es un argumento viable. Un perito no puede nada más asegurar: ‘hay un 90 por ciento de coincidencia, dice esta herramienta’. Sí, pero por qué, qué metodología utiliza, qué mide, qué frecuencia de palabras, en qué idioma, qué aspectos del idioma”.
A manera de ejemplo, López Escobedo recuerda el fraude tecnológico de la llamada Ouija del Diablo, un falso “detector molecular” de drogas y armas que entre 2004 y 2012 compraron varias dependencias del gobierno federal y algunas estatales (como Michoacán) con una inversión total de unos 450 millones de pesos. El aparato era una caja de plástico unida a una antena metálica que supuestamente giraba cuando detectaba drogas, armas o explosivos a distancia. Al final se descubrió que dentro no había nada y quien giraba la antena era la persona que portaba la cajita.
“Ese aparato se vendió como si fuera un secreto industrial y es un poco lo mismo que está pasando con plataformas que ‘detectan el uso de IA’: desconocemos qué hay adentro de sus cajas negras, por eso no podemos tomar esos resultados como algo totalmente certero, pues caen en muchos errores. En el ámbito forense esas situaciones han sido muy evidentes ante la evolución de la tecnología, por eso necesitamos saber qué hay detrás, qué algoritmos utilizan. Se ha visto, por ejemplo, que los primeros softwares que existían para reconocimiento de voz estaban entrenados con lenguas que no eran del español, por ejemplo, el ruso.
“En cuanto a la escritura, las nuevas herramientas de IA son muy buenas analizando qué gramática es típica en el inglés, pero no en otros idiomas, pues además cada lengua tiene variantes, y el estilo de los autores también es diferente. Habría que saber con qué tipo de textos en español se entrenó Pangram, ¿son representativos? Sabemos que la literatura cambia a lo largo del tiempo y hay ciertas corrientes que tienen cierto estilo que las caracteriza; entonces, si nosotros queremos identificar a un autor actual, no le vamos a meter al software literatura novohispana. Es bien importante conocer si los datos con los que se entrenó son representativos ante lo que alguien quiere contrastar o confrontar en el caso de los textos. Si el autor que se analizó es peruano, ¿la IA se entrenó con literatura de autores peruanos?”
La especialista considera que también hay que preguntarse si es que hubo uso de IA, ¿para qué fue, ¿corrección de estilo, ortografía, sintaxis?, “porque aquí hay otro punto que es muy importante entender: cuando le pedimos a una IA: ‘escríbeme un poema’ o ‘escríbeme un cuento’, no lo está inventando, está mezclando toda la información que ya tiene. En cambio, la literatura es la experiencia de vida de un autor, eso es la creatividad, lo que se vive en el día a día. Una inteligencia artificial no tiene vida, no es consciente, tiene la información de los textos que le dan para entrenarse, textos que tendrán que seguir alimentándola para que pueda ir cambiando conforme la sociedad se va transformando. Si no le diéramos más escritos, se quedaría en la sociedad actual, en lo que se vive hoy día, pero no en 20 años”.
–¿Qué podemos hacer para no pensar que los autores que usan IA son unos delincuentes, como nos quieren hacer creer?
–Lo primero es quitarnos la idea de que la IA es totalmente negativa en el campo de la literatura o todo lo que tenga que ver con una producción artística. Hay que asumir que la IA es una herramienta que se va a seguir usando, aunque aún se le tiene miedo y no se le entiende. No podemos pensar que la vamos a dejar de utilizar, eso no va a pasar, al contrario, va a haber más y más. En la producción literaria esto significa que hay que establecer límites de uso, y esos límites tienen que ver con la ética, preguntarnos ¿cuál es el objetivo del uso de la IA en mi obra? Si el objetivo es meter nuestro texto a un concurso literario y lo que hago es imitar el estilo de García Márquez, eso es trampa, sobre todo si no me atrevo a decirlo. Pero para corrección de estilo, para una traducción, se puede usar IA y ser transparentes, poner al final del texto que se usó esa herramienta. No hay que satanizar a la IA, estamos ya conviviendo con ella, pero hay que tener las reglas muy marcadas.
