Las imágenes creadas por inteligencia artificial (IA) han generado controversia en los últimos años, y la decisión de Midjourney de suspender sus pruebas gratuitas ha suscitado debates entre los periodistas sobre quién puede controlar el uso de la tecnología.
«Debido a una combinación de demanda extraordinaria y abusos estamos desactivando temporalmente las pruebas gratuitas hasta que hayamos implantado mejoras en el sistema», declaró en marzo David Holz, fundador de Midjourney.
Si bien Holz no especificó qué tipo de abusos habían motivado la decisión, anunció el cambio pocos días después de que se hicieran virales en Internet una serie de imágenes falsas, entre ellas una del expresidente de Estados Unidos Donald Trump siendo detenido y otra del Papa Francisco con una chaqueta de moda.
La decisión de cancelar el acceso gratuito a Midjourney pone de relieve el modo en que las imágenes generadas con inteligencia artificial han contribuido a la difusión de información errónea y desinformación, y los desafíos a los que se enfrentan los periodistas. Esto es lo que deben saber.
Los periodistas usan imágenes generadas por IA para crear ilustraciones y visualizaciones que pueden mejorar sus historias y atraer al público. Por ejemplo, un periodista puede utilizar Midjourney para crear una imagen de un personaje a partir de la descripción de la reseña de un libro, o para generar un paisaje de un escenario hipotético (como un planeta extrasolar) a partir de un informe científico.
«En su mayor parte, los usos que he visto de las imágenes generadas por IA en el periodismo son más bien un valor añadido, que se utiliza en casos en los que es bueno tener imágenes y sería costoso crearlas, pero no son una pieza fundamental del trabajo», afirma Brandon Roberts, periodista de datos de Estados Unidos.
Aunque los periodistas utilizan en gran medida las imágenes generadas por IA de manera responsable, otros usos han sido más controvertidos. Por ejemplo, Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación, utilizó Midjourney para crear imágenes hipotéticas relacionadas con políticos.
El 20 de marzo, Higgins tuiteó una serie de imágenes que había creado con Midjourney. Las imágenes mostraban a Trump resistiéndose a ser detenido con este pie de foto: «Haciendo fotos de Trump siendo arrestado mientras espero el arresto de Trump». Cuatro días antes, también había tuiteado una foto de Vladimir Putin, presidente de Rusia, siendo acusado ante un tribunal. Las imágenes se hicieron rápidamente virales, y a pesar de afirmar que sus imágenes eran ficticias y generadas por IA, Midjourney respondió bloqueando a Higgins del servidor Discord de la plataforma.
«La imagen de la detención de Trump era en realidad una muestra casual tanto de lo bueno como de lo malo que era Midjourney a la hora de representar escenas reales», escribió Higgins en un correo electrónico a Associated Press.
La decisión de Midjourney de suspender su prueba gratuita es el último de los debates sobre cómo utilizar éticamente la IA en el periodismo, que se han acelerado con la popularización de otra herramienta de IA, ChatGPT. Mientras que algunos consideran que Midjourney es una herramienta útil, otros ven una amenaza potencial, argumentando que ese y y otros generadores de imágenes como DALL-E complican la capacidad de los verificadores de hechos para analizar la autenticidad y exactitud de las imágenes.
Esto es especialmente relevante a medida que el contenido visual resuena más con en las audiencias, escribió Marilín Gonzalo, columnista de tecnología en Newtral, una organización española de verificación, en respuesta a las imágenes falsas del Papa Francisco y Trump. «Puedes hablar con una persona durante una hora y darle 20 argumentos a favor de una cosa, pero si le enseñas una imagen que tiene sentido para él, va a ser muy difícil convencerle de que no es verdad», dijo Gonzalo.
Sin embargo, aunque los ojos humanos pueden engañarse fácilmente, las imágenes generadas por la IA pueden detectarse mediante herramientas, argumentó Gonzalo.
«Si la tecnología sirve para crearlas, también puede servir para detectarlas», escribió.
Los desafíos del fact-checking con la aparición de nuevas tecnologías no son nuevos, dijo Felix Simon, periodista e investigador del Instituto Reuters para el Estudio del Periodismo. «La relación entre imagen y verdad siempre ha sido inestable», afirma. «Se podría decir que lo que vemos con la IA generativa no es más que una continuación de eso. Mucha gente se acostumbrará».
Teniendo en cuenta que la versión de pago de Midjourney sigue disponible, Charlie Backett, profesor y experto en periodismo de IA de la London School of Economics and Political Science, cree que la decisión de interrumpir la prueba gratuita no tendrá un efecto tan grande como algunos periodistas creen.
«No creo que tenga mucho impacto en los periodistas responsables que quieran experimentar. Puede que resulte demasiado caro para algunos, pero si un producto es gratuito, entonces tú eres el producto, como se suele decir», afirma Beckett.
Sin embargo, con la decisión de poner fin a la prueba gratuita, quedan interrogantes sobre la utilidad de Midjourney para los periodistas en el futuro. En comparación con otras herramientas de generación de imágenes como DALL-E de OpenAI, cuyas políticas prohíben a los usuarios crear determinadas imágenes violentas o de personajes políticos reales, expertos consideran que Midjourney es más permisiva. Pero la decisión de suspender la versión gratuita demuestra que todo está cambiando.
En una entrevista con The Verge, Holz dijo que Midjourney ya ha prohibido algunas palabras «relacionadas con temas de diferentes países basándose en quejas de usuarios de dichos países». Debido a las falsas imágenes de Trump, el término «arrestado» se ha añadido a la lista de palabras restringidas que ya no se pueden utilizar para generar contenido en la plataforma.
Kunle Adebajo, investigador en HumanAngle, cree que es mejor que herramientas como Midjourney, con su potencial para difundir información falsa, no sean gratuitas para todo el mundo. «Deberías tener que pagar por usarlas porque así serás más cuidadoso sabiendo que estás gastando tu dinero», dijo.
«Pero, por supuesto, a la gente que se dedica deliberadamente a difundir desinformación no le importará gastar dinero para acceder a este servicio. Así que Midjourney aún tiene que establecer ciertos marcos para asegurarse de reducir esa posibilidad al mínimo», concluyó.
Imagen de Jonathan Kemper en Unsplash.
