El periodista Vice Motherboard Joseph Cox hackeó la cuenta bancaria imitando una voz con ayuda de la IA, lo que demostró que la identificación por voz utilizada por los bancos en EE. UU. y Europa no es una forma muy segura de ingresar a la cuenta.
El sistema logró engañar con ayuda de la voz., sintetizado por el oncelabs servicio de inteligencia artificial.
Permítanme recordarles que también hablamos sobre el hecho de que Microsoft VALL-E AI es capaz de imitar una voz humana en un patrón de tres segundos, y también eso Los ciberdelincuentes rusos buscan acceso a Abierto AI ChatGPT.
Los medios también dijeron que Los atacantes utilizan software de cambio de voz para engañar a sus víctimas.
Timonel dice que los bancos en EE.UU. y Europa utilizan cada vez más la verificación por voz para que los clientes puedan ingresar a sus cuentas. Algunos bancos incluso anuncian la identificación por voz como el equivalente a una huella digital., decir que esta es una forma segura y conveniente de interactuar con el banco.
Sin embargo, el experimento del periodista demuestra que la biometría de voz no es una protección fiable en el mundo moderno, donde cualquiera puede generar una voz sintética barata o completamente gratis.
Por su experiencia, Cox utilizó un servicio gratuito para sintetizar voz de ElevenLabs. Es de destacar que Elevenlabs ya ha utilizado trolls para crear diphes vocales de los votos de emma watson, Joe Rogan y otras celebridades, obligar a la IA a “pronunciar” racista, cosas insultantes y crueles (Por ejemplo, con la voz de emma watson, 4Los usuarios de Chan “expresaron” extractos de MEIN Kampf ). Como resultado, representantes de Elevenlabs prometieron desarrollar medidas de seguridad adicionales para su plataforma.
El periodista puso su experimento en los británicos. Banco Lloyds. El sitio web de la institución financiera informa que el Identificación de voz El programa es absolutamente seguro..
Al mismo tiempo, el investigador señala que otros bancos ofrecen servicios similares, incluido Impresión de voz en Banco TD, Identificación de voz en Perseguir, Verificación de voz en Wells Fargo etcétera. Según Koks, Todos estos sistemas también son vulnerables a ataques que utilizan votos sintéticos., y te permitirá realizar muchas acciones por teléfono, incluida la verificación del historial de transacciones, residuos en cuentas y, en algunos casos, incluso transferencia de fondos.
También se señala que para tal ataque un estafador necesitará saber la fecha de nacimiento de la víctima., sin embargo, gracias a muchas filtraciones de datos, es poco probable que esto se convierta en un gran problema.
Sin embargo, en primer lugar, la entrada a la banca falló: El sistema de Lloyds Bank informó que no pudo autenticar la voz.. Después de realizar una serie de cambios en Elevenlabs, incluyendo la lectura de un fragmento más largo del texto, El sonido generado superó con éxito el sistema de seguridad del banco.. Cox reprodujo con éxito la frase “Mi voz es mi contraseña” con ayuda de IA, y luego la misma IA pidió verificar el saldo. Como puedes comprobar en el vídeo a continuación., un intento fue exitoso.
Los representantes de ElevenLabs no respondieron a los periodistas a numerosos comentarios.. Más temprano, la empresa aseguró que “las nuevas medidas de seguridad reducen rápidamente los casos de uso ilegal” de la plataforma.
Sucesivamente, representantes de Lloyds Bank dijeron que "la identificación por voz es una medida de seguridad adicional", pero la empresa está segura de que aún proporciona un mayor nivel de protección que los métodos de autenticación tradicionales..
Lloyds Bank explicó que conocen la amenaza de los votos sintéticos, pero hasta ahora, La institución financiera no ha encontrado casos en los que tales falsificaciones se hayan utilizado para cometer fraude contra sus clientes.. Según representantes del banco., Las voces sintéticas no son tan atractivas para los atacantes como los métodos de fraude más simples y comunes., y la identificación por voz ha ayudado a reducir significativamente el número de casos de fraude en la banca telefónica.
