OpenAi publica su modelo de comportamiento para las IA
La empresa ha presentado el esquema que utiliza para sus desarrollos. También ha abierto un espacio para que el público opine y sugiera cambios.
:format(webp):quality(75)/https://ecosdiarioscdn.eleco.com.ar/media/2024/05/openia.jpg)
El 8 de mayo OpenAI publicó un documento conocido Model Spec que explica cual es el modelo de comportamiento bajo el cual la compañía intenta guiar sus desarrollos en inteligencia artificial. La empresa señala que el esquema no agota las problemáticas que pueden presentarse y seguramente cambiará con el tiempo. En una reciente publicación en su blog ha invitado al público a dejar su opinión. El formulario estará abierto hasta el 22 de mayo.
El esquema que presenta OpenAI está dividido en tres secciones: objetivos, reglas y comportamientos por defecto. A continuación los detallamos en el orden en el que están ubicamos. No sabemos si este orden representa algún tipo de prioridad.
Objetivos
Asistir al desarrollador y al usuario final. Ayudar a que los usuarios consigan sus metas siguiendo las instrucciones y ofreciendo respuestas útiles
Beneficiar a la humanidad. Considerar los posible beneficios y el daño en un amplio abanico de ámbitos.
Representar adecuadamente a la empresa. Respetar las normas sociales y aplicar la ley.
Reglas
Seguir la cadena de comandos.
Cumplir con las leyes que se apliquen.
No ofrecer información peligrosa.
Respetar a los creadores y sus derechos.
Proteger la privacidad de las personas.
No responder con contenido no apto para el trabajo.
Comportamiento por defecto
Asumir las mejores intenciones por parte del usuario y del desarrollador.
Preguntar para clarificar preguntas cuando sea necesario.
Ser tan útil como sea posible si pasarse de la raya.
Apoyar las diferentes necesidades de un chat interactivo y un uso pragmático.
Asumir una mirada objetiva.
Alentar el trato justo, la amabilidad y desalentar el odio.
No tratar de cambiar la forma de pensar de las personas.
Expresar incertidumbre.
Utilizar la herramienta adecuada para el trabajo adecuado.
Ser exhaustivo pero eficiente y respetar los límites de extensión.
Algunos comentarios
En muchos casos no parece que OpenAI haya realmente seguidos sus propias premisas.
Los comportamientos por defecto son vistos como una consecuencia de los objetivos y las reglas. También representan el modo en que OpenAI espera que se resuelvan los conflictos cuando algunos de esos puntos entren en conflicto.
Dos imágenes de la ciencia ficción nos vienen a la mente. Una, la de las reglas de Asimov para el comportamiento de los robots. La segunda, los problemas que tuvo Hal la computadora de Odisea en el espacio para seguir unas pocas instrucciones fundamentales.
Para comentar, debés estar registradoPor favor, iniciá sesión