Connect with us

Principal

Editor de fotos con inteligencia artificial crea imágenes falsas con personas reales sin permisos

Publicado

el

La popularidad de los sistemas de inteligencia artificial ha generado, además de múltiples oportunidades para generar negocios online, inconvenientes para controlar el uso de aquellas que tienen capacidades generativas como la producción de imágenes e incluso ‘deep fake’ altamente realistas y que podrían ser creados con malas intenciones por usuarios abusivos.

La plataforma conocida como “Civitai” estaría impulsando la creación de imágenes digitales entre los usuarios de la aplicación. El problema se encuentra en que las personas que son el blanco de este sistema de recompensas, que son mayoritariamente mujeres, y no dan su consentimiento para esta práctica y el resultado de las ediciones, en varios casos, realmente está orientado a la pornografía y el acoso.

El sistema de “Civitai”, llamado “bounties” (recompensas), invita a su comunidad de usuarios a participar de una especie de “concurso” en el que un usuario propone la creación de una fotografía deep fake de una persona (sin importar que sea famosa o no).

Todos los miembros estarán encargados del desarrollo de piezas diversas, pero solo aquella más “convincente” o realista será la ganadora de monedas virtuales llamadas “Buzz” que se pueden comprar con dinero real, por lo que el beneficio económico de los creadores es posible, aunque en realidad el precio de estos tokens es muy reducido: 1.000 unidades se adquieren con el pago de un dólar.

Según Michele Alves, una influencer de Instagram que habló con un medio llamado “404″, ella también registra un “recompensa” en esta aplicación. “Por años he tenido problemas con el uso indebido de mi imagen y esto nunca cruzó por mi mente (…) No sé qué medidas tomar porque internet aprece un lugar fuera de control”, aseguró. Además añadió que en general lo único que ha podido hacer hasta el momento ha sido gestionar cómo este uso de su rostro y su figura la afecta emocionalmente.

La gravedad de estas acciones alentadas por “Civitai” es que no se trata de un software cualquiera, sino que según la empresa de análisis de mercado “Andreessen Horowitz”, esta es la séptima aplicación más popular entre los usuarios recurrentes de esta tecnología onlline.

Además, no cuestiona las intenciones de los usuarios que solicitan las ediciones deep fakes de las personalidades online. Cualquier persona podría encontrar su fotografía alterada en esta plataforma si alguien interesado en ese contenido lo solicita a la comunidad. No es necesario que el solicitante sea un amigo, familiar o siquiera conocido del usuario al que se le quiere crear una imagen con inteligencia artificial.

El reporte de “404″ indicó que uno de los usuarios que había solicitado la edición de fotografías de una mujer lo hacía pues en realidad era su esposa, aunque una revisión de sus redes sociales indicaba que era soltero, por lo que los fines detrás del pedido podrían ser variados e incluso llegar a ser nocivos.

Las consecuencias no solo se limitan a que las víctimas de mal uso de la inteligencia artificial generativa que pueden verse a sí mismas representadas de formas inadecuadas o no consentidas, sino que además cualquier otro usuario de la plataforma, independientemente de si solicitó la edición o no, puede acceder a estos datos y generar modelos propios sin necesidad de conocer de quién se trata.

Por el momento, los usuarios no pueden realizar denuncias oficiales en la plataforma a causa del uso inadecuado de su imagen, lo que significa que nadie puede (a día de hoy) eliminar sus fotografías de esta aplicación a no ser que sea el propio creador de la recompensa.

“Civitai” no se ha pronunciado por el uso inadecuado de fotografías y los abusos que puedan cometer sus usuarios.

Continuar Leyendo
PUBLICIDAD
Publicidad

Nacionales

Detienen en Santa Ana a mujer y menor con porciones de marihuana listas para la venta

Publicado

el

La Policía Nacional Civil (PNC), en coordinación con la Fuerza Armada, reportó la captura de dos personas acusadas de traficar droga en el distrito de Texistepeque, al norte de Santa Ana.

Los detenidos fueron identificados como Teresa de Jesús Rivera, de 46 años, y un adolescente de 16, ambos residentes de la colonia Trinidad, lugar donde se desarrolló el operativo.

Durante la intervención, las autoridades decomisaron varias porciones de marihuana listas para su comercialización.

Según la PNC, este procedimiento forma parte de las acciones implementadas a escala nacional en el combate al narcotráfico. Los capturados serán remitidos a las instancias judiciales correspondientes para enfrentar el proceso legal.

Continuar Leyendo

Nacionales

FOTOS | Ministra de Educación supervisa cumplimiento de nuevas disposiciones de orden y disciplina en escuelas públicas

Publicado

el

La ministra de Educación, Karla Trigueros, realizó un recorrido por diversos centros educativos del país para constatar la implementación de las nuevas disposiciones orientadas al fortalecimiento del orden, la disciplina y la buena presentación personal en el sistema educativo público.

Durante la jornada, miles de estudiantes ingresaron puntualmente a sus centros escolares, con uniformes completos y mostrando una presentación adecuada, cumpliendo con las normativas impulsadas por el Ministerio de Educación (MINED).

“El orden y la disciplina son pilares fundamentales para garantizar un aprendizaje de calidad en la nueva etapa educativa que vive El Salvador”, señaló la cartera de Estado en un comunicado oficial.

La ministra inició su recorrido en el Instituto Nacional de Ayutuxtepeque, San Salvador, y continuó visitando el Centro Escolar Alejandro de Humboldt en Ahuachapán, el Centro Escolar Católico Alberto Masferrer en Santa Tecla, y el Centro Escolar Doctor Arturo Romero en Ayutuxtepeque, donde verificó que todos estudiantes cumplieran con las disposiciones de aseo, respeto y presentación personal.

El recorrido culminó en el Centro Escolar Doctor Doroteo Vasconcelos, en San Salvador, reafirmando el compromiso del Ministerio de Educación de consolidar una cultura escolar basada en el respeto, la responsabilidad y la excelencia académica.

El MINED enfatizó que estas medidas buscan no solo fortalecer el aprendizaje, sino también formar ciudadanos conscientes, responsables y respetuosos, promoviendo la educación integral de los estudiantes.

Continuar Leyendo

Nacionales

Dos lesionados tras accidente de mototaxi en El Congo, Santa Ana

Publicado

el

Esta mañana, un accidente de tránsito dejó a dos personas lesionadas sobre la avenida Teniente Ricardo Mancía, en El Congo, Santa Ana. El incidente ocurrió cerca de la clínica local e involucró a un mototaxi, según los reportes preliminares.

Socorristas de la Cruz Verde Salvadoreña llegaron al lugar para brindar atención prehospitalaria a las víctimas.

Hasta el momento, se desconocen las causas del percance, por lo que agentes de la Policía Nacional Civil (PNC) realizan las investigaciones correspondientes para determinar responsabilidades.

Continuar Leyendo

Publicidad

Lo Más Leído