Nvidia Corp, uno de los principales proveedores de chips y sistemas informáticos para inteligencia artificial, presentó el martes un conjunto de herramientas de software destinadas a ayudar a los chatbots a cuidar su lenguaje.
Los chips de Nvidia han ayudado a empresas como Microsoft Corp a incorporar funciones de chat similares a las humanas a motores de búsqueda como Bing. Pero los chatbots pueden seguir siendo impredecibles y decir cosas que sus creadores desearían que no dijeran.
En febrero, Microsoft limitó a los usuarios el número de preguntas por sesión con su motor de búsqueda Bing después de que New York Times informó de que el sistema daba respuestas inquietantes durante conversaciones largas.
Las herramientas de software de Nvidia, proporcionadas de forma gratuita, están diseñadas para ayudar a las empresas a protegerse de las respuestas no deseadas de los chatbots. Algunos de esos usos son sencillos: el fabricante de un chatbot de atención al cliente puede no querer que el sistema mencione productos de sus competidores.
Pero las herramientas de Nvidia también están pensadas para ayudar a los creadores de sistemas de IA a poner en marcha importantes medidas de seguridad, como garantizar que los chatbots no respondan con información potencialmente peligrosa, como la forma de crear armas, o envíen a los usuarios a enlaces desconocidos que podrían contener virus informáticos.
Legisladores estadounidenses han pedido que se regulen los sistemas de IA a medida que aplicaciones como ChatGPT han ido ganando popularidad. Existen pocas normas legales o estándares industriales sobre cómo hacer que los sistemas de IA sean seguros.
