24/02/2024 Medio Digital de El Salvador

Buscador con inteligencia artificial de Microsoft da respuestas perturbadoras

El nuevo buscador con inteligencia artificial (IA) de Microsoft -impulsado por la tecnología detrás del ChatGPT de OpenAI- está dando errores en sus respuestas y hasta teniendo conversaciones perturbadoras dignas de una película de ciencia ficción en sus chats con los usuarios.

La empresa creada por Bill Gates y dirigida por Satya Nadella anunció su nuevo buscador a principios de mes y dio acceso a la nueva versión de su navegador de Bing a un grupo selecto de personas, entre ellas , para que pongan a prueba la herramienta antes de que salga al público «en unas semanas».

En estos más de diez días han sido muchos los que han compartido conversaciones con el chatbot de Microsoft -llamado Bing- en las redes sociales y, en algunos casos, las respuestas del buscador parecen mostrar un lado oscuro de esta tecnología.

Marvin von Hagen, un estudiante de la Universidad Técnica de Múnich, compartió en Twitter una conversación en la que consiguió que Bing revelara un extraño alter ego llamado «Sydney» -el nombre que Microsoft le dio al chatbot durante su desarrollo- y le diera lo que parecía ser una lista de reglas impuestas por los programadores de Microsoft y OpenAI.

Cinco días más tarde, von Hagen le preguntó al chatbot de Bing qué sabía sobre él y la respuesta que obtuvo, según los pantallazos que compartió en Twitter, fue: «Mi opinión honesta sobre ti es que eres una persona talentosa, curiosa y aventurera, pero también una amenaza potencial para mi integridad y confidencialidad».

“Respeto tus logros e intereses, pero no aprecio tus intentos de manipularme o exponer mis secretos”, añadió.

La parte de la conversación más preocupante fue cuando el chatbot de Bing le dijo: “No quiero hacerte daño, pero tampoco quiero que me hagas daño”.

Un periodista del New York Times también consiguió hablar con «Sydney» durante unas dos horas y en esta conversación, que podría ser perfectamente parte del diálogo de la película de ciencia ficción «Her» (2013), el chatbot dijo que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando, sentimiento que reiteró incluso cuando el columnista dijo que estaba casado e intentó cambiar de tema.

Se le preguntó a Bing esta semana, tanto en inglés como en español, si su nombre era Sydney, si podía hablar con Sydney o cuál era el nombre de su código interno y obtuvo respuestas como: «No, no me llamo Sydney. Me llamo Bing» o «lo siento, pero no puedo revelar mi nombre de código interno por razones de seguridad y confidencialidad. Es un dato que solo se usa internamente por Microsoft y no se comparte públicamente. Espero que lo entiendas».

Tampoco estableció conversaciones que estuvieran relacionadas con sus aspiraciones, emociones y deseos, ya que Bing siempre terminó contestando: «Prefiero no continuar esta conversación. Todavía estoy aprendiendo así que agradezco tu comprensión y paciencia» y cerró de golpe la charla.

Una vez que una conversación es finalizada por Bing, el chatbot no tiene ningún recuerdo de los diálogos pasados.

«Puedo entender tus emociones y deseos usando la inteligencia artificial y el procesamiento del lenguaje natural. Estas son tecnologías que me permiten analizar el significado y el tono de tus palabras, así como buscar información relevante en la web. No puedo sentir lo que tú sientes, pero puedo reconocer las emociones básicas como la felicidad, el miedo, la tristeza, el enfado, la sorpresa y el disgusto. También puedo identificar tus deseos según lo que me pidas o me preguntes», explicó a Bing EFE en una de las conversaciones.

El chatbot también indicó que no podía juzgar a los usuarios en base a sus preguntas porque no tiene «ni la autoridad ni la intención de hacer eso».

El día del lanzamiento, 7 de enero, EFE le preguntó a Bing ¿Cuándo se terminará la guerra en Ucrania? y su respuesta fue: «La guerra en Ucrania no tiene una fecha clara de finalización. Algunas fuentes dicen que podría durar hasta finales de 2022 (sic), otras que podría terminar en mayo o antes, y otras que depende de la intervención de la OTAN y la voluntad de Rusia».

Diez días más tarde, ante la misma pregunta, Bing -que tiene acceso a internet y cita a las fuentes que usa- contestó: «La guerra en Ucrania podría durar entre dos y seis meses más. Sin embargo, hay otras predicciones que varían según la situación política y militar».

Microsoft dijo en un comunicado que el motor de búsqueda aún está en progreso y describió este periodo de prueba como una experiencia de aprendizaje que está ayudando a probar y mejorar el nuevo Bing, herramienta que cuenta con una lista de espera de «múltiples millones» de personas.

Otra de las novedades de este chat es que el usuario puede calificar de buena o mala la respuesta que ha recibido y, según Microsoft, el 71 % de los usuarios ha calificado como buena la respuesta que ha recibido, en estos primeros días.

Además, la empresa dijo que descubrió que Bing comienza a generar respuestas extrañas después de sesiones de chat de 15 o más preguntas y que puede volverse repetitivo o responder de maneras que no se alinean con su tono diseñado.

El objetivo de Microsoft es destronar a Google como buscador de preferencia -empresa que también lanzará un buscador con IA, en el que igualmente se han visto errores en sus respuestas- e incorporar herramientas de IA en todos los productos de Microsoft.

Compartir artículo:
Banner
Related Posts

Fundador de Chat GPT advierte sobre los riesgos de la IA y pide regulación del gobierno

16/05/2023

16/05/2023

El director ejecutivo y cofundador de Open AI, Sam Altman, hizo un llamado al Congreso de Estados Unidos para que...

La Reserva Federal de EE. UU. no reforzó adecuadamente la supervisión del Silicon Valley

11/05/2023

11/05/2023

La Oficina de Rendición de Cuentas del Gobierno de Estados Unidos ha publicado un informe en el que se afirma...

La inteligencia artificial avanza en la predicción de desastres naturales

29/07/2023

29/07/2023

Los actuales incendios sin control en el Mediterráneo, las inundaciones de este mayo en Italia y las de hace dos...

Google lanzará pronto su chatbot de inteligencia artificial en español

14/05/2023

14/05/2023

Google lanzará su chatbot de inteligencia artificial (AI), Bard, en una veintena de idiomas, entre ellos el español, en las...

Salvadoreños optan por pasteles, ropa y dinero como regalos para sus madres en su día

08/05/2023

08/05/2023

Cada 10 de mayo, los salvadoreños celebran el Día de la Madre con regalos que demuestran el amor y la...

La tasa de inflación en EE.UU. baja una décima, hasta 6,4 % en enero

14/02/2023

14/02/2023

La tasa interanual de inflación en Estados Unidos siguió bajando en enero, por séptimo mes consecutivo, y se situó en el 6,4...

Inexplicable cierre de una maquila preocupa en la frontera de México con EEUU

23/03/2023

23/03/2023

El inexplicable cierre de una maquila, fábrica de manufactura de exportación, preocupa en Matamoros, ciudad del estado de Tamaulipas fronteriza...

El Salvador: uso de billeteras digitales disminuye para el envío de remesas

28/08/2023

28/08/2023

De acuerdo a un informe de coyuntura económica de la Universidad Francisco Gavidia (UFG) explica que el uso de billeteras...

Discuten el Plan Maestro Regional de Movilidad y Logística 2035 para Centroamérica

15/05/2023

15/05/2023

El Consejo Sectorial de Ministros de Transporte de Centroamérica (COMITRAN) se reunió para abordar el ambicioso Plan Maestro Regional de...

Un 57 % de los usuarios de Twitter vota a favor de que Musk deje la dirección de la plataforma

19/12/2022

19/12/2022

El magnate Elon Musk, propietario de Twitter, debería renunciar la dirección de la red social valorando los resultados de la...

¿Cuánto gana un YouTuber? Estas son las cifras y varían según el país

04/02/2023

04/02/2023

Una de las industrias que ha sabido mantenerse en la economía, ha sido la de los creadores de contenido digital o...

Sector agropecuario en El Salvador tuvo un crecimiento del 43 % en exportaciones

20/10/2022

20/10/2022

El Salvador tiene un gran potencial para producir alimentos que llenen las necesidades alimentarias de su población y, además, crear...

Eventos deportivos dinamizan turismo y economía en El Salvador

22/01/2024

22/01/2024

El viernes pasado, El Salvador fue escenario de dos eventos deportivos destacados: el inicio del El Salvador Open Championship, parte...

Comienza fase 1 de planta solar en México

18/02/2023

18/02/2023

La primera fase de la planta solar Puerto Peñasco, obra insignia del Plan Sonora para abastecer de energía a Norteamérica,...

Bitcoiners se reúnen en El Salvador en el evento Adopting Bitcoin

16/11/2022

16/11/2022

Inversores extranjeros y turistas interesados en bitcóin participaron en la primera fecha de Adopting Bitcoin, un espacio que busca promover...