CONCEPTOS VIDEO- CHAT GPT

Token: Unidad elemental en procesamiento de lenguaje que puede representar una palabra entera, una fracción de palabra o incluso un solo carácter, dependiendo del sistema de segmentación utilizado.

Sampling: Técnica usada para elegir elementos de manera aleatoria o pseudoaleatoria con base en una distribución de probabilidad, muy común en tareas de generación de texto para seleccionar el siguiente token.

Problemas de memoria (entrenamiento en secuencia): Limitaciones de algunos modelos de lenguaje al tratar de mantener información de eventos pasados en entradas largas, lo cual puede hacer que se “olviden” datos relevantes a lo largo de una secuencia.

LSTM (Long Short-Term Memory): Tipo de red neuronal diseñada para mantener y actualizar información útil durante períodos prolongados en secuencias, reduciendo el problema del olvido en redes neuronales recurrentes.

Transformers: Modelo de red neuronal que utiliza atención como mecanismo principal para procesar datos secuenciales de forma global y simultánea, sin depender del orden paso a paso.

Paralelizar: Técnica para dividir una tarea compleja en múltiples tareas más pequeñas que pueden ejecutarse al mismo tiempo, aumentando la velocidad de procesamiento y eficiencia.

BERT (Bidirectional Encoder Representations from Transformers): Modelo desarrollado por Google que comprende el significado de las palabras considerando el contexto que las rodea por ambos lados, usando una arquitectura basada en Transformers.

GitHub Copilot: Herramienta de inteligencia artificial que actúa como asistente de programación, proporcionando sugerencias de código en tiempo real mientras el usuario escribe.

GPT-3: Avanzado modelo de lenguaje natural creado por OpenAI, con capacidad para realizar múltiples tareas lingüísticas como generación de texto, traducción o programación, gracias a su amplio entrenamiento en grandes volúmenes de datos.

RLHF (Reinforcement Learning from Human Feedback): Estrategia de entrenamiento en la que se utiliza la opinión o evaluación de personas para guiar el comportamiento de un modelo mediante técnicas de aprendizaje por refuerzo.

Bing: Buscador web desarrollado por Microsoft que ha incorporado funciones de inteligencia artificial conversacional, integrando modelos similares a ChatGPT.

Bard: Asistente conversacional de Google que responde preguntas y ayuda en diversas tareas, inicialmente basado en el modelo LaMDA y posteriormente en los modelos Gemini.