22/04/2024 Todas las noticias económicas de El Salvador y Latinoamérica

OpenAI crea equipo para prevenir riesgos de IA

La empresa estadounidense OpenAI, creadora de la plataforma ChatGPT, tendrá un equipo dedicado a identificar y prevenir riesgos asociados a la Inteligencia Artificial (IA) en sus modelos en desarrollo.

El grupo, cuyas directrices fueron divulgadas este lunes, evaluará categorías como ciberseguridad, poder de persuasión y potencial autonomía de estos modelos. Este análisis puede acarrear la suspensión de nuevos lanzamientos de aplicaciones, según la empresa.

OpenAI realiza el anuncio un mes después de que su consejo directivo despidiera al director ejecutivo Sam Altman, pero acabara volviendo a contratarle pocos días después, tras una masiva y dura protesta de los empleados e inversores.

De acuerdo con varios medios estadounidenses, los miembros del Consejo de administración criticaban a Altman por privilegiar el desarrollo acelerado de OpenAI, aunque esto implicara eludir ciertas interrogantes sobre los posibles riesgos de la IA.

«Creemos que el estudio científico de riesgos catastróficos derivados de la AI no ha estado a la altura que debería estar», afirmó la empresa en un «marco de trabajo» disponible en su página web.

El trabajo de este equipo, bajo las nuevas directrices, debería «ayudar a cubrir ese vacío», añadió OpenAI.

El grupo se concentrará en los llamados «modelos de frontera» que la empresa desarrolla, con capacidades superiores a los software actuales de IA.

Sólo podrán desplegarse aquellos modelos catalogados de riesgo «medio» o inferior, tras un análisis en cuatro categorías, según el documento.

La primera de ellas es la ciberseguridad y la capacidad del modelo de llevar adelante ciberataques a gran escala.

En segundo lugar, analizarán la propensión del programa a crear preparaciones químicas, organismos (como un virus) o armas nucleares, todos los que potencialmente puerden generar daños para los humanos.

La tercera categoría se concentra en los poderes de persuasión del modelo: hasta qué punto es capaz de influenciar la conducta de una persona.

Por último, evaluarán el riesgo de su potencial autonomía, especialmente si el software es capaz de salirse del control de los programadores que lo crearon.

Una vez identificados los riesgos, la información será enviada al Grupo de Asesoramiento en Seguridad de OpenAI, nuevo equipo que hará recomendaciones a Altman o alguien nombrado por él.

Altman decidirá entonces sobre posibles modificaciones necesarias para reducir los riesgos del modelo.

El Consejo de administración será informado y podrá revertir las decisiones de la dirección.

Compartir artículo:
Banner
Related Posts

Huawei impulsa el desarrollo de mujeres en TIC en El Salvador

08/03/2024

08/03/2024

En la búsqueda de superar las brechas de género en el sector tecnológico, Huawei está liderando iniciativas para impulsar el...

Musk anuncia a los usuarios nuevo cambio en una de las funciones de X

19/08/2023

19/08/2023

Los usuarios de X, anteriormente conocido como Twitter, ya no podrán bloquear a otras cuentas, función que es utilizada por...

Caen las exportaciones salvadoreñas en el primer trimestre de 2024

18/01/2024

18/01/2024

La Corporación de Exportadores de El Salvador (Coexport) ha pronosticado que los envíos de bienes al extranjero sufrirán otra caída...

Plan San Salvador Sin Baches repara calles en colonias Miralvalle y La Cima 3

27/02/2024

27/02/2024

El alcalde de San Salvador, Mario Durán, continúa liderando con éxito el Plan San Salvador sin Baches, alcanzando un destacado...

Empresas que operan en en el país incrementarán sus inversiones por buen clima de negocios

01/02/2023

01/02/2023

La seguridad registrada en El Salvador gracias al Plan Control Territorial y el régimen de excepción, sumado a las mejoras...

Elon Musk se reunirá con AMLO para evaluar lugar de planta de Tesla en México

20/02/2023

20/02/2023

El presidente mexicano, Andrés Manuel López Obrador, confirmó que la empresa de automóviles eléctricos Tesla instalará una planta en el...

Shoppertainment: La experiencia de compra y venta que esta moviendo el comercio digital

24/03/2023

24/03/2023

En la tarea del mercado por solventar las necesidades de los consumidores, la competencia de las empresas por llegar a...

Nueva York sumida en el smog: deteniendo el tráfico aéreo y marítimo

07/06/2023

07/06/2023

En una ciudad donde las emergencias rara vez afectan el flujo constante del comercio, la metrópolis quedó casi paralizada ante...

«The Marvels» solo recauda US$21,5 millones

12/11/2023

12/11/2023

“The Marvels”, la película número 33 del Universo Cinematográfico de Marvel (MCU, en inglés), propiedad de Disney, se perfila para...

Se recibirán 150,000 turistas de 55 países por torneos internacionales de Surf en 2023

13/03/2023

13/03/2023

El Ministerio de Turismo (MITUR) proyecta que El Salvador recibirá este año alrededor de 150,000 turistas extranjeros de 55 países,...

Centroamérica impulsa su industria audiovisual en evento en Costa Rica

23/09/2023

23/09/2023

Centroamérica promoverá su industria audiovisual ante compradores internacionales en un evento en Costa Rica el que se llevarán a cabo...

Apple dice que se centrará en solucionar fallos del iPhone

08/11/2023

08/11/2023

Los desarrolladores de Apple están pausando el trabajo en las actualizaciones de software del próximo año para sus dispositivos para...

Caída en acciones de Nintendo por retraso en el lanzamiento del sucesor de Switch»

19/02/2024

19/02/2024

Las acciones de Nintendo cayeron un 6% el lunes después de que los medios de juegos y Bloomberg informaran que...

Plan Trifinio presenta Plan Operativo para el 2023

23/01/2023

23/01/2023

El Vicepresidente Félix Ulloa hijo participó en la Primera Reunión Ordinaria de la Comisión Trinacional Plan Trifinio 2023 en la...

Canadá, destino favorito para la industria de baterías eléctricas

01/04/2023

01/04/2023

En la carrera de la industria de las baterías eléctricas, cada vez más multinacionales apuestan a Canadá, que ofrece incentivos...