Las empresas de tecnología buscan incorporar generadores de imágenes de IA con protecciones contra el uso indebido
La herramientas de inteligencia artificial que permiten generar obras de artes únicas o imágenes de aspectos realistas a los usuarios a partir de comandos escritos han cautivado al público desde el año pasado. Pero la mayoría de usuarios no los usa en el trabajo ni en casa.
El cambio ocurriría cuando las principales empresas de tecnología compitan para divulgar los generadores de texto a imágenes una vez integrados en Adobe Photoshop, redes sociales y otras herramientas similares. Primero están tratando de convencer a los usuarios y reguladores de que han evolucionado gran parte de los primeros generadores de imágenes de inteligencia artificial, siempre salvaguardando los derechos de autor y evitando uso de contenido indebido.
Los primeros generadores de imágenes como Stable Diffusion y DALL-E de OpenAI comenzaron a ser utilizados hace un año, por un grupo muy pequeño de usuarios a manera de entretenimiento. A pesar de que los generadores de imágenes mediante IA eran usados como una curiosidad interesante, las empresas se han mostrado cautelosas, dijo el analista del grupo de investigación de mercado Forrester.
El famoso editor de gráficos de Adobe, Photoshop, introducido hace más de tres décadas, ha sido el primero de las muchas empresas de tecnología en adoptar este año un generador de imágenes mediante comandos de textos, mismo que está diseñado para evitar problemas legales y éticos frente a la gran cantidad de competidores que diseñaron sus modelos de IA en gran parte de una serie de imágenes extraídas de Internet.
Muchos de los usuarios no se sienten capaces de usar este tipo de tecnología generativa , aunque la consideran realmente interesante, debido a los problemas de derecho de autor que estas enfrentan, según Ely Greenfield, director de tecnología de medios digitales de Adobe. Firefly, el generador de textos de Adobe es creado a partir de su propia colección de imágenes de Adobe Stock, así como de los contenidos que tienen su licencia.
El analista de mercado de Forrester dice que Firefly de Adobe es legalmente limpio, mientras que los demás generadores de imágenes no lo son y quienes usan la IA generativa por diversión eso realmente no les preocupa. Pero quienes buscan utilizar imágenes para sus sitios webs, apps o diseños impresos evitando meterse en problemas, «eso es algo muy importante», como es el caso de las empresas y profesionales creativos. Una serie de demandas y pedidos de nuevas leyes contra el uso indebido de la tecnología de IA generativa ha surgido, entre ellas las demandas por derechos de autor de artistas y hacia la empresa de fotografía Getty, después de que han sido utilizados para crear anuncios políticos engañosos o imágenes sexuales abusivas.
A pesar que los problemas que genera la IA generativa no se resuelven, una proliferación de nuevos generadores de imágenes están listos para el negocio. Amazon incluirá los generadores de imágenes en sus asistente virtual a finales de este año y ya lo ha anunciado a sus clientes. «Alexa crea una imagen de flores de cerezo en la nieve», es el tipo de mensaje que los usuarios estadounidenses podrán pedir, generando así una visualización personalizada en la pantalla de su Fire TV. ChatGPT de OpenAI, presentó el miércoles su generador de imágenes de DALL-E 3, de tercera generación, donde se enfatizó su impresionante capacidad y furtura integración a ChatGPT con restricción al pedido de imágenes con el estilo de un artista vivo. Los creadores también tendrán la opción de excluir sus imágenes de modelos futuros.
OpenAI aún no se ha pronunciado sobre la compensación a autores cuyas imágenes son incluidas en el entrenamiento con el permiso previo. En eventos separados en la ciudad de Nueva York el jueves Microsoft y YouTube, ambas empresas de Google, presentaron nuevos productos con imágenes generativas de IA. Microsoft, inversor importante de OpenAI ya ha incorporado DALL-E 3 en sus herramientas de diseño, en principio para la edición de fondo, así como en su motor de búsqueda Bing y en su chatbot. YouTube a su vez incorporó una nueva pantalla Dream que permite a los creadores componer un fondo de su elección para los videos cortos de YouTube.
La directora global de IA de Microsoft, Sarah Bird, dice la compañía crea filtros de las imágenes que se pueden generar, el objetivo asegurarse de evitar tipos de contenidos que no querrían producir como contenido que incite al odio .