La popular plataforma Midjourney, que ha sido utilizada para crear falsificaciones virales, ha decidido cerrar temporalmente su prueba gratuita hasta que se implementen las próximas mejoras del sistema.
La decisión se da debido al aumento de los deep fakes, una técnica audiovisual creada con inteligencia artificial para mostrar a personas reales haciendo o diciendo cosas que nunca hicieron.
El fundador de Midjourney, David Holz, anunció en el servidor Discord de la empresa que el cierre se debe a una combinación de demanda extraordinaria y abuso de la versión de prueba.
Los deep fakes pueden ser utilizados con fines de entretenimiento, pero también pueden difundir información falsa, influir en opiniones o dañar reputaciones.
Ni el Papa se salvo de las habilidades de la inteligencia artificial
Recientemente, imágenes falsas del Papa Francisco con una elegante chaqueta blanca y un collar con diamantes incrustados, se hicieron virales en la red. También se popularizó una serie de fotos que parecían mostrar al expresidente de Estados Unidos, Donald Trump, perseguido por la policía. En ambos casos, las imágenes parecían incluso más creíbles que falsificaciones similares creadas por expertos con Photoshop.
La cuestión de qué es un uso aceptable en lo que respecta a las falsificaciones profundas sigue siendo objeto de debate, ya que todos estos sitios fabrican fotografías que no son reales. Muchos sitios de IA generativa, como Midjourney y Playground AI, ya han establecido restricciones a las indicaciones que incluyan contenido sexual.
Los planes de suscripción de Midjourney oscilan entre los 10 y los 60 dólares mensuales, en función de la potencia de procesamiento y las prestaciones que requiera el usuario, incluida la posibilidad de ejecutar trabajos simultáneos.
La plataforma también ofrece planes de suscripción anual. A pesar de que la empresa ya prohíbe las imágenes ofensivas de famosos o personajes públicos, no está claro cómo resolverá el problema el cierre de su nivel gratuito.
