Nova IA generativa de fala da Meta desperta preocupações sobre riscos potenciais
A Meta AI, anunciou o desenvolvimento de uma nova e revolucionária Inteligência Artificial (IA) chamada Voicebox. Capaz de sintetizar fala em seis idiomas diferentes, com alta qualidade e uma variedade impressionante de estilos, essa IA possui um potencial inovador. No entanto, a Meta decidiu não lançar publicamente essa tecnologia, alertando para os perigos que ela pode representar.
De acordo com o blog oficial da Meta AI, o Voicebox possui uma capacidade notável: clonar a voz de qualquer pessoa com base em uma amostra minúscula de apenas dois segundos. Essa habilidade levanta preocupações sobre o uso indevido da tecnologia, já que amostras de áudio alteradas ou geradas por IA podem ser utilizadas por hackers para fins de extorsão ou na criação de informações falsas.
A empresa destacou que, embora acredite na importância da transparência e compartilhamento de pesquisas para avançar o campo da IA, também é essencial encontrar um equilíbrio entre abertura e responsabilidade. Portanto, a Meta optou por não disponibilizar publicamente o modelo ou código do Voicebox neste momento, citando os potenciais riscos de uso indevido como principal motivo.
A decisão da Meta pode ser vista como uma medida cautelar e reflexo das preocupações levantadas por especialistas. No início deste ano, vimos exemplos de geradores de IA sendo usados para criar imagens falsas convincentes de figuras públicas famosas. Agora, a possibilidade de uma amostra de voz gerada por IA se torna um pesadelo para políticos e autoridades que lutam contra a disseminação de notícias falsas e desinformação.
Enquanto a Meta mantém a cautela em relação à disponibilização pública do Voicebox, a empresa revelou que pretende investigar métodos proativos para treinar o modelo generativo, a fim de facilitar a detecção da fala sintética. Entre as possibilidades, estão o uso de impressões digitais artificiais que podem ajudar a identificar o uso indevido da tecnologia.
