Los usuarios se quejan de que Discord CAPTCHA proporcionado por hCaptcha los obliga a buscar objetos inexistentes creados por IA en las fotos proporcionadas.. Por ejemplo, un objeto llamado «yoko», que parece un híbrido de caracol y yo-yo, que es inventado y creado por IA y no existe en la realidad.
Déjame recordarte que también escribimos eso. GPT-4 Engañé a una persona para que resolviera un CAPTCHA para ellos fingiendo tener una discapacidad visual, y también eso Nuevo hCaptcha El método de derivación puede no afectar de Cloudflare seguridad.
Discord CAPTCHA creado por IA confunde a los usuarios
Según Vicio placa base periodistas, Inmediatamente varias personas se quejaron en las redes sociales. sobre el extraño objeto Yoko, la cual se requería encontrar entre otras fotos para entrar a Discord.
Al mismo tiempo, otros usuarios descubrieron que se les pidió que buscaran imágenes de un cubo de rompecabezas, que también fue creado por inteligencia artificial y no se parecía demasiado a un objeto de la vida real. Además, Todos los objetos de la tarea parecen venir directamente del Uncanny Valley..
Los CAPTCHA para Discord son proporcionados por hCaptcha, y los representantes de Discord dijeron a los periodistas que la tecnología que genera estas indicaciones «es propiedad de un socio externo y Discord no determina directamente lo que se presentará a los usuarios». Sucesivamente, Representantes de hCaptcha explicaron que lo sucedido fue “una prueba corta que vio un pequeño número de personas”. Dado que cientos de millones de usuarios utilizan la tecnología en total, incluso esto «breve prueba» resultó en los tweets que se muestran arriba.
La publicación señala que hCaptcha se posiciona como una alternativa a reCAPTCHA centrada en la privacidad. De acuerdo a a un 2018 entrada en el blog, Las indicaciones de hCaptcha las generan ellos mismos los clientes que necesitan "alta calidad, anotaciones generadas por humanos para sus necesidades de aprendizaje automático”.
Eso es, hCaptcha gana dinero tanto con clientes como Discord que compran suscripciones profesionales y empresariales para ejecutar servicios CAPTCHA., y de clientes que crean mensajes. De hecho, hCaptcha utiliza su propio CAPTCHA para sistemas de aprendizaje automático y redes generativas adversarias.
Y esta no es la primera vez que la gente nota la aparición de imágenes extrañas en los servicios de hCaptcha y señalan que la empresa aparentemente entrena IA con la ayuda de los usuarios.. Así que, hace dos meses, a Reddit usuario notado que Discord le pidió que encontrara entre las imágenes de personas jugando hockey y golf, Jugadores de futbol, que fue claramente creado por inteligencia artificial. En marzo, Otro usuario de Reddit se quejó de que el CAPTCHA de Discord se había vuelto casi irresoluble.
Los periodistas resumen que el trabajo de hCaptcha es un excelente ejemplo de los problemas que surgen con los sistemas de aprendizaje automático. La primera es que los sistemas de IA requieren una importante aportación humana.. Por ejemplo, como una regla, La indexación y categorización de imágenes se transfiere a subcontratistas de países en desarrollo., cuyo trabajo está extremadamente mal pagado. Otro problema es deriva de datos: Cuanto más tiempo funcionan los sistemas de aprendizaje automático, más datos necesitan. Por último, comienzan a utilizar datos que ellos mismos han generado para el autoaprendizaje. Y los sistemas que se entrenan durante bastante tiempo sobre sí mismos llegan al punto de emitir solicitudes para la definición de objetos incomprensibles., como yoko.
