November 11, 2024
Microsoft Advierte sobre los Peligros de la IA Capaz de Crear Voces Realistas
Related media – Connected media

Investigadores de Microsoft en Asia han publicado un estudio que aborda los riesgos asociados a un programa de inteligencia artificial (IA) diseñado para generar voces extremadamente realistas.

Riesgos de la Inteligencia Artificial

Los expertos continúan alertando sobre los posibles peligros de la inteligencia artificial. Un artículo publicado por los propios investigadores de Microsoft revela que la compañía está desarrollando un sistema con «riesgos potenciales».

El Modelo VALL-E 2

El modelo de inteligencia artificial en cuestión es VALL-E 2, un programa que puede convertir texto en voz. Este tipo de tecnología es conocida como TTS (text to speech, por sus siglas en inglés).

Capacidades del VALL-E 2

Los investigadores del equipo de Microsoft Asia han observado que este nuevo modelo puede pronunciar palabras complejas de manera natural, incluso aquellas que son difíciles de leer o contienen frases repetitivas.

Potenciales Riesgos

También advierten sobre los «riesgos potenciales» del mal uso del VALL-E 2, como emplearlo para acceder a sistemas de identificación basados en la voz o para suplantar a otras personas.

Recomendaciones

El estudio sugiere que los usuarios deben consentir el uso de su voz para asegurarse de que esta IA pueda pronunciar textos. Ante los peligros identificados, se recomienda implementar un protocolo que garantice que el «propietario» de la voz apruebe su uso.

Además, se discute la posibilidad de desarrollar un modelo capaz de detectar si un audio ha sido sintetizado con VALL-E 2.

Declaraciones de Microsoft

Microsoft ha declarado en su página dedicada a esta inteligencia artificial que la compañía «no tiene planes de incorporar VALL-E 2 a un producto ni de ampliar su acceso público».

Related media – Connected media