‘Deepfake es el futuro de la creación de contenido’ – PanaTimes


Hace unos meses, millones de televidentes de Corea del Sur estaban viendo el canal MBN para conocer las últimas noticias.

En la parte superior de la hora, el presentador de noticias habitual Kim Joo-Ha comenzó a leer los titulares del día. Era una lista relativamente normal de historias para finales de 2020, llena de COVID-19-19 y actualizaciones de respuesta a pandemias.

Sin embargo, este boletín en particular estaba lejos de ser normal, ya que Kim Joo-Ha no estaba en la pantalla. En cambio, había sido reemplazada por una versión “deepfake” de sí misma, una copia generada por computadora que tiene como objetivo reflejar perfectamente su voz, gestos y expresiones faciales.

Los espectadores habían sido informados de antemano de que esto iba a suceder, y los medios de comunicación de Corea del Sur informaron una respuesta mixta después de que la gente lo vio. Si bien algunas personas se sorprendieron de lo realista que era, otras dijeron que les preocupaba que la verdadera Kim Joo-Ha pudiera perder su trabajo.

MBN dijo que continuaría usando el deepfake para algunos informes de noticias de última hora, mientras que la empresa detrás de la tecnología de inteligencia artificial, la empresa surcoreana Moneybrain, dijo que ahora buscaría otros compradores de medios en China y Estados Unidos.

Cuando la mayoría de la gente piensa en deepfakes, imagina videos falsos de celebridades. De hecho, solo la semana pasada, uno de esos videos falsos, pero muy realistas, de Tom Cruise llegó a los titulares de todo el mundo después de su aparición en TikTok.

El video deepfake de Tom Cruise finalmente se eliminó de TikTok, pero la cuenta que lo colocó permanece allí

A pesar de las connotaciones negativas que rodean al término coloquial deepfakes (la gente no suele querer asociarse con la palabra “falso”), la tecnología se utiliza cada vez más comercialmente.

Más cortésmente llamados videos generados por IA, o medios sintéticos, el uso está creciendo rápidamente en sectores que incluyen noticias, entretenimiento y educación, con la tecnología cada vez más sofisticada.

Uno de los primeros en adoptar comercialmente ha sido Synthesia, una empresa con sede en Londres que crea videos de capacitación corporativa basados ​​en inteligencia artificial para empresas como la firma de publicidad global WPP y la consultora comercial Accenture.

“Este es el futuro de la creación de contenido”, dice el director ejecutivo y cofundador de Synthesia, Victor Riparbelli.

Para hacer un video generado por IA usando el sistema de Synthesia, simplemente elija entre varios avatares, escriba la palabra que desea que digan, y eso es todo.

Los usuarios de Synthesia eligen entre varios avatares

El Sr. Riparbelli dice que esto significa que las empresas globales pueden hacer videos muy fácilmente en diferentes idiomas, como para cursos de capacitación internos.

“Digamos que tiene 3.000 trabajadores de almacén en América del Norte”, dice. “Algunos de ellos hablan inglés, pero algunos pueden estar más familiarizados con el español.

“Si tiene que comunicarles información compleja, un PDF de cuatro páginas no es una buena manera. Sería mucho mejor hacer un video de dos o tres minutos, en inglés y español.

“Si tuvieras que grabar todos y cada uno de esos videos, sería un trabajo enorme. Ahora podemos hacerlo por [little] los costos de producción y el tiempo que le tomará a alguien escribir el guión. Eso ejemplifica bastante bien cómo se usa la tecnología en la actualidad “.

Mike Price, director de tecnología de ZeroFox, una empresa de ciberseguridad de EE. UU. Que realiza un seguimiento de las falsificaciones profundas, dice que su uso comercial “está creciendo significativamente año tras año, pero es difícil precisar las cifras exactas”.

Sin embargo, Chad Steelberg, director ejecutivo de Veritone, un proveedor de tecnología de inteligencia artificial de EE. UU., Dice que la creciente preocupación por los deepfakes maliciosos está frenando la inversión en el uso comercial legítimo de la tecnología.

“El término deepfakes definitivamente ha tenido una respuesta negativa en términos de inversión de capital en el sector”, dice. “Los medios y los consumidores, con razón, pueden ver claramente los riesgos asociados.

“Definitivamente ha impedido que las corporaciones, así como los inversionistas, se apilen en la tecnología. Pero creo que están comenzando a ver esa grieta”.

Mike Papas, director ejecutivo de Modulate, una empresa de inteligencia artificial que permite a los usuarios crear la voz de un personaje o persona diferente, dice que las empresas del sector de medios sintéticos comerciales más amplio “realmente se preocupan por la ética”.

“Es asombroso ver la profundidad del pensamiento que esta gente puso en ello”, dice. “Eso ha asegurado que los inversores también se preocupen por eso. Están preguntando sobre las políticas de ética y cómo piensas al respecto”.

Lilian Edwards, profesora de derecho, innovación y sociedad en Newcastle Law School, es experta en deepfakes. Ella dice que un problema relacionado con el uso comercial de la tecnología que no se ha abordado por completo es quién posee los derechos de los videos.

“Por ejemplo, si se utiliza una persona muerta, como [the actor] Steve McQueen o [the rapper] Tupac, hay un debate en curso sobre si su familia debería ser dueña de los derechos [and make an income from it],” ella dice.

“Actualmente esto difiere de un país a otro”.

Deborah Johnson, profesora emérita de ética aplicada de la Universidad de Virginia, coescribió recientemente un artículo titulado “¿Qué hacer con los deepfakes?”.

Ella dice: “Los deepfakes son parte del gran problema de la desinformación que socava la confianza en las instituciones y en la experiencia visual; ya no podemos confiar en lo que vemos y escuchamos en línea.

“El etiquetado es probablemente la forma más simple e importante de contrarrestar las falsificaciones profundas: si los espectadores saben que lo que ven ha sido fabricado, es menos probable que se engañen”.

La profesora Sandra Wachter, investigadora senior en IA en la Universidad de Oxford, dice que la tecnología deepfake “avanza rápidamente”.

La profesora Sandra Wachter dice que la respuesta a los deepfakes debe ser “matizada”

“Si vio el video de Tom Cruise la semana pasada, puede ver lo buena que se está volviendo la tecnología”, dice ella. “Fue mucho más realista que el del presidente Obama de hace cuatro años.

“No debemos temerle demasiado a la tecnología, y debe haber un enfoque matizado. Sí, debe haber leyes vigentes para reprimir cosas malas y peligrosas como el discurso de odio y la pornografía de venganza. Las personas y la sociedad deben ser protegido de eso.

“Pero no deberíamos tener una prohibición total de las deepfakes por sátira o libertad de expresión. Y el creciente uso comercial de la tecnología es muy prometedor, como convertir películas en diferentes idiomas o crear videos educativos atractivos”.

Uno de esos usos educativos de los videos generados por IA se encuentra en la Fundación Shoah de la Universidad del Sur de California, que alberga más de 55,000 testimonios en video de sobrevivientes del Holocausto.

Un sobreviviente del Holocausto con su avatar en la Fundación Shoah

Su proyecto Dimensions In Testimony permite a los visitantes hacer preguntas que generan respuestas en tiempo real de los sobrevivientes en las entrevistas en video pregrabadas.

Steelberg dice que en el futuro dicha tecnología permitirá a los nietos tener conversaciones con versiones de inteligencia artificial de parientes ancianos fallecidos. “Eso es un cambio de juego, creo, para la forma en que pensamos sobre nuestra sociedad”.

.



Source link