De manera reciente, la Inteligencia Artificial lo hizo otra vez y fue protagonista de un hecho que recorrió los portales del mundo. La periodista italiana de la revista L’Espresso, Sabina Minardi, descubrió que el chino Jianwei Xun, autor del best seller Hipnocracia. Trump, Musk y la nueva arquitectura de la realidad, sencillamente, no existía. Lo reveló de una manera muy simple: se molestó en reiteradas ocasiones por querer entrevistarlo y él insistía en conversar vía mail. En el texto, además, había oraciones sospechosas, poco concatenadas o directamente con ninguna coherencia. Luego, se supo que el autor real de la publicación, el filósofo italiano Andrea Colamedici (que figura originalmente como traductor de la obra) en verdad no solo había creado un manuscrito falso sino que también había recurrido a dos inteligencias artificiales, Chat GPT y Claude, para redactar en equipo su libro. Una suerte de co-creación hombre-máquina.

El hecho plantea un precedente tan polémico como apasionante. Quizás para limpiarse de culpas, Colamedici argumentó ante medios internacionales que todo se había tratado de “un experimento filosófico y una performance artística”. En concreto: que su propio material era un ejemplo de la manera en que las personas son fácilmente manipulables en esta época. ¿Cómo es que cualquier autor inventado se convierte en uno de los escritores más vendidos? ¿De qué manera su concepto, la hipnocracia, comenzó a ser citado en artículos periodísticos y más académicos sin ningún tipo de filtro? ¿Qué hay del uso de la IA? Mientras no haya regulación, ¿será que todo está permitido? ¿De qué forma puede reinterpretarse la figura del autor?

Leonardo Murolo, doctor en Comunicación y director de la Editorial de la Universidad Nacional de Quilmes, refiere a Página 12: “Pensaba en los usos piratas de audiovisuales, música, películas, libros o softwares que se hacen hace años. En la primera década de los 2000 procurábamos consumir todos estos formatos en los bordes del mercado y enseguida el mercado reaccionó juzgando. Poco tiempo después, mediante modelos de negocio efectivos, se institucionalizaron, con ejemplos como Spotify o Netflix”. Y sigue Murolo: “Creo que estamos en una etapa similar, pero con otras tecnologías nuevas. Si bien la IA tiene unos años, lo que se observa ahora son las diferentes apropiaciones sociales. Hay, por lo tanto, usos banales, como transformar fotos en dibujos; o usos que son más complejos, como crear conceptos, teorías, literatura”. Colamedici fue a fondo y se encontró con el éxito editorial y con críticas varias de colegas y del mundillo periodístico.

Seudónimos y fake news

La figura de los seudónimos fue ampliamente utilizada a lo largo de la historia. Para cuidar la integridad física en momentos turbulentos, o bien, para no revelar la identidad por cualquier motivo, muchos autores y autoras han resguardado su nombre oculto a la sombra de un apodo o versiones trastrocadas de su identidad. Mark Twain, Gabriela Mistral, Agatha Christie y Pablo Neruda constituyen algunos de los más célebres ejemplos. Ahora bien, lo que hizo Colamedici fue un paso más allá: creó directamente una vida virtual. Jianwei Xun fue presentado, durante todo este tiempo, como un autor nacido en Hong Kong, que actualmente residía en Berlín. Incluso se pueden ver imágenes de él híper reales. No solo escribía como escritor, también lo parecía.

Por otro lado, el caso también pone a prueba el consumo de información en la actualidad. Una vez más, la era de la posverdad parece marcar el pulso y la verdad, precisamente, no es tan importante como antes. Basta con sonar creíble para que la cosa funcione. Jianwei Xun era reclamado para múltiples entrevistas, invitado a presentaciones, citado en artículos periodísticos y sus escritos eran solicitados por editoriales de diferentes países que buscaban traducir a quien se perfilaba como el nuevo intelectual de época.

El propio Colamedici, en diálogo con la periodista italiana, explica: “Me interesaba una performance narrativa con la que construir la misma realidad que el libro analizaba teóricamente: crear un ecosistema narrativo que permitiera a la gente poner a prueba de inmediato los conceptos que leía”.

Si era un experimento social y se trataba de una performance narrativa, realmente surtió efecto, porque todos quedaron --como reza el título del libro-- hipnotizados. Su texto remite a la manipulación a la que finalmente los lectores, referentes de la academia y del mundillo intelectual, sucumbieron. Pero ya no más. Hay editoriales como Rosamerón (que lo publicará en español) que ya tomaron cartas en el asunto. Por ejemplo, advirtieron que el libro incluirá una publicación de cómo se creó la obra y cuál fue todo el recorrido realizado por el autor original. Al menos como cartel de advertencia.

María Teresa Lugo, directora del Centro de Políticas Públicas de Educación, Comunicación y Tecnología de la UNQ, analiza el caso y apunta: “Uno de los aspectos más preocupantes se refiere a la seguridad de la información. Hay un déficit muy importante en relación a la regulación. Se requieren de políticas públicas activas, tener una especial atención a lo que son las fuentes auténticas; todo lo que hace a la validación de las fuentes de información con la cual se entrenan los algoritmos”.

¿Coautoría hombre-máquina?

Ante las acusaciones de robo que recaen sobre Colamedici --al haber recurrido a la ayuda de dos IAs para la redacción de buena parte del contenido-- él recurre una vez más a la astucia y habla en términos de una “co-creación”. “El trabajo no era copiar el pensamiento de alguien, sino ver cómo podía co-crear con otra entidad que me pusiera en posición de no ser perezoso, sino de querer profundizar”, afirma ante la revista italiana.

“Hasta ahora veníamos usando a las IA dándole órdenes. Es decir, a partir de pocas señales o pistas, vemos cómo el algoritmo construye textos. En este caso, el autor cuenta algo distinto: lo hace en co-autoría, es decir, es altamente responsable de lo resultante. Le propone a la IA textos complejos para seguir debatiendo”, sostiene Murolo. Las IAs, explica el experto en comunicación, cada vez disponen de más información, cada vez son “más inteligentes” y cada vez proponen mundos más complejos en menos tiempo y con mayor eficiencia.

Luego, Murolo continúa con el debate en torno a la ética. “Recuerdo el libro de Jorge Carrión, publicado por Caja Negra, que fue escrito en colaboración con la IA y lo dice en la tapa. Es una manera del autor de decir ‘Ya experimenté con esto y miren cuál es el resultado’. Por detrás está este gran crítico cultural contemporáneo haciendo uso de la tecnología disponible. No le tiene miedo, sino que invita a sus lectores a descubrir qué pasa”. Sigue entusiasmado: “Acá se vio una estrategia que podría ser de marketing, se creó un autor que no existe. Hay una coautoría hombre-máquina, da vértigo encontrarse con textos firmados por una persona que pudo no haberlos escrito”.

Se tratará, entonces, de generar anticuerpos para identificar a los autores falsos toda vez que quieran presentarse como verdaderos. Al respecto, Lugo sintetiza: “La IA trae grandes oportunidades y también alertas. Muchas herramientas que se emplean para los procesos editoriales representan posibilidades para la colaboración, el intercambio y, sobre todo, para potenciar esta idea de co-creación del conocimiento. Son desarrollos que podrían contribuir a ecosistemas nuevos; pero al mismo tiempo no hay mucha certeza para prever cuál será el impacto de esta transformación de gran porte”.

Por el momento, a Colamedici lo acusan de incumplir el Reglamento Europeo de IA, aprobado en marzo de 2024, que identifica como “infracción grave” no etiquetar aquellos textos, videos o audios que hubieran sido elaborados con inteligencias artificiales. Como el etiquetado frontal de alimentos, las personas que consumen productos de la IA deberían al menos saber cuáles son los componentes utilizados en la producción.

Quizás sea una oportunidad

Lugo señala que “se requieren algoritmos transparentes para asegurar una aplicación justa y equitativa. La IA no puede ser una caja negra que automatiza decisiones sin rendir cuentas. Democratizar realmente el conocimiento no solo implica un acceso más amplio a la información, sino también la integración activa de diversos saberes, distintas miradas”. Y remata: “Tenemos que poder pensar cómo la IA no se transforma en un factor de mayor desigualdad”.

En verdad, si le diéramos la derecha a este autor italiano --y se recurriera a ideas como las que proponían intelectuales como Roland Barthes-- ninguna obra es propiedad de un solo autor. En el proceso, quienes escriben leen a muchas personas, citan a tantas otras y piensan en conceptos que ya fueron pergeñados por miles de otros cerebros. La polifonía en los textos está implícita, aunque nadie la asuma como tal. Sin embargo, defender a Colamedici resulta difícil: no solo creó un autor, sino que también utilizó contenido no directamente pensado por él, sino por Chat GPT y Claude.

Ahora bien, más allá de todo: ¿quién dice que los lectores no pueden comenzar a disfrutar de las producciones de las Inteligencias Artificiales? Si el resultado aporta, ¿por qué no darle una oportunidad al algoritmo? ¿Y si en el futuro los libros son firmados por una persona y una IA? ¿Cuál sería esencialmente el problema si alimentan el debate cultural humano? Quizás exista una nueva manera de hacer filosofía, de pensar la ciencia, de construir el mundo que ya llegó y está ahí latiendo a cada segundo.