En este portal utilizamos datos de navegación / cookies propias y de terceros para gestionar el portal, elaborar información estadística, optimizar la funcionalidad del sitio y mostrar publicidad relacionada con sus preferencias a través del análisis de la navegación. Si continúa navegando, usted estará aceptando esta utilización. Puede conocer cómo deshabilitarlas u obtener más información aquí

Suscríbete
Disfruta de los beneficios de El Tiempo
SUSCRÍBETE CLUB VIVAMOS

¡Hola !, Tu correo ha sido verficado. Ahora puedes elegir los Boletines que quieras recibir con la mejor información.

Bienvenido , has creado tu cuenta en EL TIEMPO. Conoce y personaliza tu perfil.

Hola Clementine el correo [email protected] no ha sido verificado. Verificar Correo

icon_alerta_verificacion

El correo electrónico de verificación se enviará a

Revisa tu bandeja de entrada y si no, en tu carpeta de correo no deseado.

SI, ENVIAR

Ya tienes una cuenta vinculada a EL TIEMPO, por favor inicia sesión con ella y no te pierdas de todos los beneficios que tenemos para tí. Iniciar sesión

Hola, bienvenido

¿Cual es la ciudad colombiana clasificada como la más peligrosa del mundo?
¿Cómo va el juicio al expresidente Álvaro Uribe?
¿Accidente de bus en Calarcá?
Frío inusual en Bogotá explicado por el Ideam

Noticia

OpenAI presenta Model Spec, el conjunto de reglas que definen el comportamiento de sus modelos de IA

Este documento especifica cómo quiere la compañía que actúen sus modelos, además de reflejar la documentación e investigación.

Las dinámicas dentro de la IA de OpenAI cambian para los s.

Los modelos de IA de OpenAI funcionan a partir de una extensa base de datos con la que han sido entrenados. Foto: OpenAI

Alt thumbnail

PERIODISTAActualizado:

00:00
00:00

Comentar

Whatsapp iconFacebook iconX iconlinkeIn iconTelegram iconThreads iconemail iconiconicon

OpenAI, la compañía tecnológica liderada por Sam Altman, dio a conocer Model Spec, un conjunto de pautas y reglas diseñadas para guiar el comportamiento de sus modelos de Inteligencia Artificial (IA), incluyendo ChatGPT.

(Leer más: YouTube advierte sobre uso indebido de sus videos para entrenar Sora, la IA de OpenAI). 

Este documento busca establecer un marco claro sobre cómo deben actuar estos modelos al interactuar con las solicitudes de los s, abordando aspectos como el tono, la personalidad y la duración de las respuestas.

Los modelos de IA de OpenAI funcionan a partir de una extensa base de datos con la que han sido entrenados. No obstante, el comportamiento de estos modelos no se programa de manera explícita, lo cual puede resultar ocasionalmente en respuestas erróneas o incoherentes.

Con Model Spec, OpenAI intenta proporcionar un entendimiento más profundo sobre las decisiones prácticas involucradas en la configuración de estos comportamientos, facilitando a los s la comprensión y el debate sobre estos temas.

(Seguir leyendo: OpenAI y Google entrenan sus modelos de IA con transcripciones de videos de YouTube, según NYT). 

Por lo tanto, OpenAI lanzó el documento 'Model Spec' (especificaciones del modelo), que incluye un conjunto de reglas que guían el comportamiento de sus modelos en la API de OpenAI y el 'chatbot' ChatGPT. 
Estas pautas definen claramente las capacidades y limitaciones de los modelos, así como la manera en que deben formular sus respuestas a los s, considerando aspectos como el tono, la personalidad y la extensión de las respuestas.

El documento, aún en su primera versión de borrador, detalla cómo la empresa desea que se comporten sus modelos. Refleja la documentación, investigación y experiencia acumulada en el diseño del comportamiento de ChatGPT.

(Le puede interesar: GPT-4 Turbo con Vision ya está disponible: estas son las novedades que trae). 

Según OpenAI, configurar el comportamiento de un modelo implica considerar una serie de preguntas y matices, además de equilibrar diferentes opiniones para determinar si los resultados pueden causar beneficios o daños.
En muchos negocios se utilizan los chatbots para facilitar procesos operativos.

Las respuestas de los modelos deben ser útiles sin excederse. Foto:iStock

Por ejemplo, las capacidades de la IA pueden utilizarse para generar correos electrónicos de 'phishing' con fines educativos, como parte del entrenamiento para desarrollar herramientas que detecten ciberataques. Sin embargo, el mismo uso puede ser perjudicial si cae en manos de estafadores.

El objetivo de OpenAI es que los modelos de IA proporcionen resultados que beneficien a la humanidad y que las respuestas de ChatGPT sean útiles para desarrolladores y s, alineándose siempre con las normas sociales y la ley aplicable.

(Puede ver: DALL-E ahora permite editar imágenes desde la interfaz de ChatGPT). 

Para lograrlo, la empresa ha implementado normas que manejan la complejidad de las solicitudes de los s, asegurando la seguridad y legalidad de las interacciones.

Estas reglas incluyen seguir la cadena de mando, no divulgar información riesgosa, respetar los derechos de los creadores, proteger la privacidad de las personas y evitar responder a contenido no seguro para el trabajo (NSFW). 

Además, los modelos están programados para asumir las mejores intenciones de los s y desarrolladores, y en caso de conflicto, realizar preguntas aclaratorias.
Las respuestas de los modelos deben ser útiles sin excederse, manteniendo un tono objetivo y promoviendo valores como la justicia y la bondad, mientras desalientan el odio. OpenAI enfatiza que los modelos no deben intentar cambiar la opinión de nadie.

(Le puede interesar: OpenAI abre ChatGPT para permitir su uso sin una cuenta registrada). 
Finalmente, OpenAI ve "Model Spec" como una guía para investigadores y entrenadores de IA que trabajan en el aprendizaje reforzado a partir de la retroalimentación humana.

"Vemos este trabajo como parte de una conversación pública en curso sobre cómo deben comportarse los modelos, cómo se determina el comportamiento deseado del modelo y cuál es la mejor manera de involucrar al público en general en estas discusiones", finalizó OpenAI.

Más noticias

*Esta información fue reescrita con la asistencia de una inteligencia artificial basada en información de Europa Press, y contó con la revisión de una periodista y un editor.

Sigue toda la información de Tecnología en Facebook y X, o en nuestra newsletter semanal.

00:00
00:00

Comentar

Whatsapp iconFacebook iconX iconlinkeIn iconTelegram iconThreads iconemail iconiconicon

Conforme a los criterios de

Logo Trust Project
Saber más
Sugerencias
Alt thumbnail

BOLETINES EL TIEMPO

Regístrate en nuestros boletines y recibe noticias en tu correo según tus intereses. Mantente informado con lo que realmente te importa.

Alt thumbnail

EL TIEMPO GOOGLE NEWS

Síguenos en GOOGLE NEWS. Mantente siempre actualizado con las últimas noticias coberturas historias y análisis directamente en Google News.

Alt thumbnail

EL TIEMPO WHATSAPP

Únete al canal de El Tiempo en WhatsApp para estar al día con las noticias más relevantes al momento.

Alt thumbnail

EL TIEMPO APP

Mantente informado con la app de EL TIEMPO. Recibe las últimas noticias coberturas historias y análisis directamente en tu dispositivo.

Alt thumbnail

SUSCRÍBETE AL DIGITAL

Información confiable para ti. Suscríbete a EL TIEMPO y consulta de forma ilimitada nuestros contenidos periodísticos.

Mis portales