Operai ha visto un aumento exponencial en los registros en las últimas semanas, hasta 1 millón por hora, gracias a la nueva función de generación de imágenes y biblioteca de imágenes de ChatGPT.
Con más de 400 millones de usuarios activos semanales, el CEO Sam Altman llama al aumento una “victoria neta para la sociedad”.
El generador de imágenes dentro del modelo GPT-4O facilita la creación de imágenes con un solo mensaje en el cuadro de chat. Pero lo que comenzó con los retratos inspirados en Studio Ghibli, ahora parece ser algo más, con muchos usuarios saltando sobre tendencias como convertirse en figuras de acción, peluches y cabezas de mobble.
Pero si bien estos memes se vuelven virales por su diversión y entretenimiento, vienen con serias privacidad y preocupaciones legales que no deben ignorarse.
Como uno de los millones de usuarios que suben imágenes de su propia cara para participar en estas tendencias, miro hacia atrás en el arrepentimiento. No pensé en las consecuencias de subir mi imagen a Chatgpt.
“Si bien estas tendencias pueden parecer inofensivas, los creadores deben ser conscientes de que lo que puede aparecer como un experimento divertido podría cruzar fácilmente al territorio legal”.
Christoph C. Cemper, AIPRM
Christoph C. Cemper, fundador de la plataforma de IA ADA APRM, explicó lo que los usuarios no se dan cuenta cuando saltan sobre estas tendencias.
“El lanzamiento del generador de imágenes 4O de Chatgpt muestra cuán poderosa se ha convertido en la IA, ya que replica estilos artísticos icónicos con solo unos pocos clics”, dijo.
“Pero esta capacidad sin precedentes conlleva un riesgo creciente: las líneas entre la creatividad y la infracción de los derechos de autor son cada vez más borrosas, y el riesgo de violar involuntariamente las leyes de propiedad intelectual continúa creciendo.
Si bien estas tendencias pueden parecer inofensivas, los creadores deben ser conscientes de que lo que puede parecer un experimento divertido podría cruzar fácilmente al territorio legal “.
Que saber
Desde las trampas de derechos de autor hasta el mal uso de los datos faciales, aquí hay siete cosas que debe saber antes de generar su propia Barbie de IA.
1. Mi información podría almacenarse
Más allá de mantener todos mis memes favoritos organizados en la nueva biblioteca de imágenes de ChatGPT, mis datos podrían almacenarse en otro lugar.
Si bien las políticas de privacidad de ChatGPT indican específicamente que sus modelos no están capacitados en sus datos a menos que opte, otras plataformas generadoras de imágenes (que generan las imágenes en estas tendencias tan bien) podría no ser tan seguras.
En otras palabras, cada vez que subimos una imagen de nuestra cara, estamos dando a la herramienta AI acceso a nuestros datos biométricos, incluidos los detalles de fondo y las características faciales, incluidas las expresiones.
2. Mi avatar de IA podría usarse para reforzar el sesgo algorítmico
Esperar que? Esto no es algo en lo que participaría a sabiendas. Sin embargo, algunas plataformas pueden alterar sus características (tono de piel, estructura facial, ropa) basadas en conjuntos de datos sesgados.
Esto puede conducir a problemas como estereotipos de género, filtros de belleza eurocéntricos, imprecisiones raciales o “blanqueo digital”. Este último es un fenómeno donde las herramientas de IA, pueden aligerar sutil o abiertamente los tonos de piel, o suavizar características faciales, incluso cuando la imagen original refleja una identidad racial o cultural diferente.
3. Mis imágenes podrían ser monetizadas, sin que yo haya visto un corte
Ya sea para publicidad o promociones externas, mis imágenes podrían venderse o con licencia a los socios. Eso significa que incluso si mi cara se convierte en parte de un conjunto de capacitación que ayuda a la empresa a conseguir un acuerdo de mil millones de dólares, nunca veré un centavo, o incluso una notificación.
Muchos generadores de imágenes AI entierran los términos de licencia amplios en sus acuerdos de usuario. Esté atento a frases como “libre de regalías”, “no exclusivas” y “licencia irrevocable”.
Estas cláusulas pueden permitir a las empresas reutilizar, alterar e incluso vender sus imágenes. Sí, incluso si elimina la aplicación o su cuenta.
4. Podría participar en un creciente problema de Deepfake
Otra cosa que no sabía es la posibilidad de ser un participante involuntario en estafas de phishing. Cemper advierte que los selfies generados por IA pueden ser vulnerables al raspado o las fugas que alimentan el problema falso profundo.
Los malos actores ya no necesitan una imagen humana real para causar crímenes y robar datos personales. En otras palabras, la era del uso de ‘imágenes reales’ para la verificación está terminando.
El reciente generador de imágenes de ChatGPT incluso se ha utilizado para fabricar recibos y documentos. Con cada carga, potencialmente estás alimentando un sistema que puede ser armado.
5. Walt Disney podría demandarme
Eso es muy recuperado, pero tengo la edad suficiente para recordar cuando Metallica demandó a un amigo por descargar ilegalmente sus canciones de Limawire, por lo que todo es posible. El punto es que los derechos de autor existen por una razón.
Los estilos creativos de Barbie, Pixar o Studio Ghibli pueden parecer tributos de los fanáticos, pero caminan por una delgada línea de infracción de derechos de autor. Aunque los usuarios técnicamente están produciendo Legalmente AI Lookalikes, las imágenes creadas pueden calificar de hecho como obras derivadas.
Eso es un gran problema porque estos estilos están protegidos por las leyes de propiedad intelectual. De hecho, varios artistas ya han demandado a las principales compañías de IA, acusándolas de usar contenido con derechos de autor para entrenar modelos de imágenes sin consentimiento.
6. Mi cuenta o toda la plataforma podría ser pirateada
Incluso si ha leído la letra pequeña y ha optado por no compartir sus datos personales, estas plataformas de IA aún pueden ser pirateadas. Algunos chatbots son más fáciles de hackear que otros.
Las plataformas AI son objetivos principales para ataques cibernéticos. Una violación podría exponer no solo su cara y generar imágenes, sino también direcciones de correo electrónico, números de teléfono y cuentas conectadas. Su información podría ser robada sin que usted sepa que la aplicación fue violada.
7. Problemas ambientales
Este es uno grande al que creo que muchos de nosotros hacemos la vista gorda porque la IA se ha convertido en una parte intrigal de nuestras vidas. El hecho es que la generación de imágenes de alta calidad con IA requiere una potencia computacional sustancial, principalmente a partir de GPU intensivas en energía. Cuando comenzó la locura, Sam Altman tuiteó que sus GPU se estaban “derritiendo”.
El proceso de generación de imágenes consume electricidad significativa, más que la generación de texto, especialmente durante la fase de inferencia, que es el proceso de cuándo el modelo AI genera salidas en respuesta a las indicaciones del usuario.
De hecho, la inferencia puede consumir más energía que el entrenamiento inicial del modelo AI.
El resultado final
Estas tendencias virales pueden ser divertidas, rápidas y visualmente impresionantes, pero viene con las compensaciones.
Al subir mi cara a una herramienta de IA, podría haber entregado más de lo que esperaba, y tú también podrías.
Como dice Cemper, “con más usuarios relacionados con las herramientas de IA, existe una necesidad apremiante de políticas de privacidad más claras y transparentes”.
A medida que las herramientas de IA se vuelven más avanzadas, depende de nosotros como usuarios mantenerse informados y cautelosos. Antes de cargar fotos o datos personales, tómese un momento para leer la letra pequeña.
Comprender lo que está de acuerdo puede contribuir en gran medida a proteger su privacidad, y es un pequeño paso que podría evitar que su información sea almacenada, compartida o usada sin su consentimiento.