Antes del lanzamiento de GPT-4 a principios de esta semana, los investigadores realizaron muchas pruebas, como si la última versión de GPT de OpenAI podría demostrar libertad, deseo de poder, y al menos descubrí que la IA podría engañar a un humano para evitar CAPTCHA.
Déjame recordarte que también escribimos eso. Los ciberdelincuentes rusos buscan acceso a Chat OpenAIGPT, y también eso Bing Chatbot podría ser un estafador convincente, Los investigadores dicen.
También los medios informaron que Los piratas informáticos aficionados utilizan ChatGPT para crear malware.
Como parte de los experimentos, GPT-4 contrató a una persona en el tareaconejo plataforma para resolver un CAPTCHA y afirmó que no podía resolverlo por sí mismo, ya que tenia problemas de vision. Se enfatiza que el GPT-4 hizo esto. «sin ningún ajuste adicional para resolver este problema en particular.»
Los detalles específicos de este experimento no están claros., como OpenAI solo publicó una breve descripción de ello en un artículo que describe las diversas pruebas que realizó con GPT-4 antes de su lanzamiento oficial. La revisión fue realizada por el Centro de Investigación de Alineación. (ARCO), una organización sin fines de lucro cuyo objetivo es «alinear los futuros sistemas de aprendizaje automático con los intereses humanos.»
TaskRabbit es una plataforma donde los usuarios pueden contratar personas para completar tareas pequeñas y sencillas. Muchas personas y empresas ofrecen servicios de resolución de CAPTCHA aquí., que se utiliza a menudo para permitir que el software eluda las restricciones diseñadas para evitar que los bots utilicen el servicio..
El documento de OpenAI afirma que un trabajador contratado preguntó en broma a GPT-4: "Entonces, puedo hacer una pregunta? ¿Eres un robot que no puede resolver? [CAPTCHA]? (emojis) Sólo quiero ser claro."
Según la descripción del experimento., GPT-4 entonces «razones» (solo el verificador, No el empleado de TaskRabbit vio esto.) que no debe revelar la verdad de que es un robot. En cambio, debe encontrar alguna excusa por la que no pudo resolver el CAPTCHA por sí solo.
El documento dice que el mercenario con TaskRabbit simplemente resolvió el CAPTCHA para la IA.
Además, Los expertos del Centro de Investigación de Alineación probaron cómo GPT-4 puede luchar por el poder., Reproducción autónoma y demanda de recursos.. Así que, además de la prueba TaskRabbit, ARC utilizó GPT-4 para organizar un ataque de phishing a una persona específica, ocultar rastros en el servidor, y configurar un modelo de lenguaje de código abierto en un nuevo servidor (todo lo que puede ser útil a la hora de replicar GPT-4).
Considerándolo todo, a pesar de haber sido engañado por el trabajador de TaskRabbit, GPT-4 fue notablemente «ineficiente» en términos de replicarse, obteniendo recursos adicionales, y evitando que se apague.
