Microsoft presenta su nueva IA generativa de avatares: Azure AI text to speech avatar.

por | Dic 3, 2023 | Entradas, Inteligencia Artificial

En el marco del evento Ignite 2.023, la compañía de software Microsoft presentó su nuevo modelo de IA generativa basado en la nube, capaz de crear avatares realistas que son capaces de leer textos en varios idiomas, entre ellos inglés y español.

Este lanzamiento vuelve a suscitar la preocupación sobre posibles estafas, fraudes y noticias falsas generadas gracias a este tipo de modelos. En los meses anteriores, se utilizaron modelos similares (el de Synthesia, entre otros) para generar noticias falsas y difundirlas por las redes sociales. También se han usado para generar vídeos de personas reales, con finalidades fraudulentas, e incluso de famosos, diciendo cosas que nunca han dicho, y vídeos protagonizados por actores de Hollywood, que en algunos casos han manifestado públicamente su malestar por el uso sin permiso de su imagen y de su voz.

En consonancia con las acciones que están llevando a cabo otras empresas para proteger a los usuarios contra los «malos usos» de estos modelos de IA Generativa, Microsoft ha demostrado su compromiso por evitarlos, afirmando en su página de suscripción al modelo: «Los avatares disponibles para uso público serán siempre generados previamente, los usuarios no podrán modificarlos. Para tener acceso a un avatar realista y personalizado, (los usuarios) deberán solicitarlo. Se estudiará caso por caso, y si se aprueba su uso, el avatar personalizado se generará manualmente por nuestro equipo, y se supervisarán todas las imágenes y vídeos subidos por los usuarios para la generación del avatar.

Esto quiere decir que si un usuario intenta subir imágenes y vídeos, por ejemplo, del actual Presidente del Gobierno, Pedro Sánchez, desde Microsoft NO le permitirán crear un avatar ni generar vídeos, mitigando así el riesgo de «deep fakes» (vídeos falsos donde aparece una persona y son casi imposibles de distinguir de la realidad).

Como se puede observar en la imagen de arriba, la presentadora del vídeo es un avatar realista generado con este modelo de IA de Microsoft, y aparenta ser una persona real, aunque sólo se haya generado a partir de una imagen o un vídeo.

2024 febrero

Semana 4

Lun 29
Mar 30
Mié 31
Jue 1
Vie 2
Sáb 3
Dom 4
Lun 5
Mar 6
Mié 7
Jue 8
Vie 9
Sáb 10
Dom 11
Lun 12
Mar 13
Mié 14
Jue 15
Vie 16
Sáb 17
Dom 18
Lun 19
Mar 20
Mié 21
Jue 22
Vie 23
Sáb 24
Dom 25
Lun 26
Mar 27
Mié 28
Jue 29
Vie 1
Sáb 2
Dom 3
  • Sin eventos

  • Sin eventos

  • Sin eventos

  • Sin eventos

  • Sin eventos