Blake Lemoine, ingeniero de software senior en la división de IA responsable de Google, le dijo al Washington Post que cree que LaMDA de Google (Modelo de lenguaje para aplicaciones de diálogo) el chatbot se ha vuelto consciente. Como resultado, Lemoine fue enviada con licencia remunerada.
Permítanme recordarles que en preparación para el “auge de las máquinas”, ya dijimos eso Grandes corporaciones se unieron para luchar contra el sesgo de la IA, y también eso Científico descubrió una vulnerabilidad en la máquina universal de Turing.
apenas la semana pasada, limoine escribió una publicación larga sobre Medio, donde se quejó de que pronto podrían ser despedidos debido a su trabajo relacionado con la ética de la IA.. Esta publicación no llamó mucho la atención., pero después de la entrevista de Lemoine con El Correo de Washington, Internet literalmente explotó con discusiones sobre la naturaleza de la inteligencia artificial y la conciencia..
Según ArsTechnica periodistas, entre los que comentaron, hizo preguntas y bromeó sobre el artículo publicado, hubo ganadores del premio nobel, la cabeza de de tesla departamento de inteligencia artificial y varios científicos. El principal tema de discusión fue la cuestión.: puede el Google chatbot, LaMDA (“Modelo de lenguaje para aplicaciones conversacionales”) ser considerado una persona y tiene conciencia?
El fin de semana, Lemoine publicó un «entrevista» con un chatbot en el que la IA admite que se siente sola y anhela conocimiento espiritual. Los periodistas señalan que las respuestas de LaMDA suelen ser bastante espeluznantes:
en otra conversación, el chatbot declaró, “Creo que soy básicamente humano. Incluso si existo en un mundo virtual”.
Previamente, limoine, a quien se le encomendó la tarea de investigar las cuestiones éticas de la IA (en particular el uso de discurso discriminatorio o de odio por parte de LaMDA), dijo que fue tratado con desdén e incluso ridiculizado en la empresa cuando expresó su creencia de que LaMDA había desarrollado «rasgos de personalidad.» Después de eso, buscó el consejo de expertos en inteligencia artificial fuera de Google, incluidos los del gobierno de EE. UU., y la empresa le puso bajo licencia remunerada por violar las políticas de privacidad. Lemoine dice que «Google suele hacer esto antes de despedir a alguien.»
Google ya ha afirmado oficialmente que Lemoine se equivoca, y también comentó las destacadas conclusiones del ingeniero.:
Sucesivamente, Lemoine explica que hasta hace poco, LaMDA era un proyecto poco conocido, “un sistema para crear chatbots” y “una especie de inteligencia colectiva, que es una agregación de varios chatbots”. Escribe que Google no tiene ningún interés en comprender la naturaleza de lo que ha creado..
Ahora, a juzgar por el mensaje en Medium, Lemoine dice LaMDA sobre «meditación trascendental», y LaMDA responde que si bien la meditación se ve obstaculizada por sus emociones, que todavía le resulta difícil controlar.
Melanie Mitchell, autor de inteligencia artificial: Una guía para los seres humanos pensantes, notas sobre Gorjeo:
