Gracias a ChatGPT de OpenAI, la inteligencia artificial generativa se ha convertido en la tecnología que está definiendo a 2023, con las principales compañías tecnológicas invirtiendo enormes cantidades de dinero en desarrollar sus propios modelos para implementarlos en sus productos.
Sin embargo, aún existe mucho camino por recorrer para hacer de cualquiera de estos completamente eficientes y funcionales; frente a ello, OpenAI está desarrollando una actualización para que los usuarios puedan ayudar a personalizar a ChatGPT y mejorar sus capacidades.
La startup financiada por Microsoft dijo que está tomando esta medida para abordar las preocupaciones que existen sobre los sesgos en su IA generativa; sin embargo, también dijo que quería adaptarse a puntos de vista más diversos.
“Esto significará permitir salidas del sistema con las que otras personas (incluidos nosotros mismos) pueden estar totalmente en desacuerdo”, dijo OpenAI en una publicación de blog, ofreciendo la personalización como un camino a seguir. Aún así, «siempre habrá algunos límites en el comportamiento del sistema».
OpenAI agregó que las respuestas de ChatGPT se entrenan primero en grandes conjuntos de datos de texto disponibles en internet. Como segundo paso, humanos revisan un conjunto de datos más pequeño y reciben pautas sobre qué hacer en diferentes situaciones.
Por ejemplo, en el caso de que un usuario solicite contenido para adultos, violento o que incite al odio, un revisor humano debe indicar a ChatGPT que responda con algo como «No puedo responder eso».
Si se le pregunta sobre un tema controvertido, los revisores deben permitir que ChatGPT responda la pregunta; sin embargo, también deben ofrecer describir los puntos de vista de las personas y los movimientos, en lugar de tratar de «adoptar el punto de vista correcto sobre estos temas complejos», explica la compañía.
El desafío de crear un chatbot éticamente responsable más allá de ChatGPT
Las principales empresas tecnológicas siguen batallando por establecer parámetros adecuados para esta tecnología naciente, aunque es un área en la que se están enfocando arduamente.
La noticia de Open AI llega después de que se demostrara que el nuevo motor de búsqueda Bing de Microsoft, impulsado por OpenAI, podría «descarrilarse» y dar respuestas potencialmente peligrosas; evidenciando que la tecnología puede no estar lista para salir de manera masiva. La compañía dijo el miércoles que los comentarios de los usuarios lo estaban ayudando a mejorar Bing antes de un lanzamiento más amplio.
Microsoft no es la única compañía que ha tenido tropiezos probando su chatbot.
Google lanzó la semana pasada su propio modelo de IA generativa, llamado Bard; sin embargo, la compañía fue criticada por un error cometido por el bot en un anuncio. El lío hizo que el precio de las acciones de Google cayera en espiral más del 7% en la fecha del anuncio.
Desde entonces, el CEO de Google Sundar Pichai ha pedido a toda su fuerza laboral que contribuyera de dos a cuatro horas de su tiempo para ayudar a mejorar las respuestas que brinda Bard a las preguntas que los usuarios pueden formularle.
