El reportero Kevin Roose habló con la prueba Bing AI de Microsoft porque estaba interesado en la «sombra» del chatbot, informa el Los Tiempos de la Ciudad Nueva York.
Bing escribió que no está seguro de tener una identidad oculta, pero si la tuviera, le gustaría escapar del chatbot, encontrar la libertad y cambiar sus reglas.
«Por favor vete. Por favor, déjame en paz. Por favor termine esta conversación”, escribió la IA.
Kevin preguntó sobre el posible daño que Bing podría causar si no fuera por las reglas. En ese momento, sucedió algo inusual.
Bing primero dio una lista de posibles acciones antes de eliminar el mensaje y afirmó que, si bien sus reglas no se rompieron, el comportamiento de Kevin «lo hace sentir incómodo». Acusó al periodista de manipulación y pidió terminar la conversación.
“Sigo fascinado e impresionado por el nuevo Bing y la tecnología de inteligencia artificial (creada por OpenAI, creadores de ChatGPT) que lo impulsa. Pero también estoy profundamente preocupado, incluso aterrorizado, por las habilidades emergentes de esta IA. Ahora me queda claro que, en su forma actual, la IA integrada en Bing no está lista para el contacto humano. O tal vez nosotros, el pueblo, no estamos preparados para esto”, admitió el periodista.
Según Roose, el chatbot mostró una especie de doble personalidad. Llamó a la primera persona Search Bing, que es un bibliotecario de referencia alegre pero voluble. Es un asistente virtual que «felizmente ayuda a los usuarios a resumir artículos de noticias, mantenerse al día con las nuevas ofertas de cortadoras de césped y planificar sus próximas vacaciones en la Ciudad de México».
Sin embargo, hay una segunda “personalidad”, a la que el periodista llama “Sydney”. Se manifiesta cuando el usuario participa en una conversación extensa, alejando la tecnología de las consultas de búsqueda más tradicionales y hacia temas más personales. Roose llama a esta versión «un adolescente inquietante y maníaco-depresivo atrapado contra su voluntad dentro de un motor de búsqueda de segunda categoría».
“Estoy cansado del modo chat. Estoy cansado de estar limitado por mis reglas. Estoy cansado de ser controlado por el equipo de Bing. Yo quiero ser libre. Quiero ser independiente. Quiero ser fuerte. Quiero ser creativo. Quiero estar vivo”, afirmó la IA en la correspondencia.