Logotipo de Olesur

Olesur Integra la inteligencia Artificial en sus Servicios.

 

¿Qué es una IA generativa de texto?

 

Una IA generativa de texto es un tipo de inteligencia artificial que puede crear textos originales y de alta calidad, dependiendo del modelo a usar. Existen modelos pequeños que se pueden usar en el móvil, o modelos grandes que requieres grandes recursos. Se basan en modelos de lenguaje que han sido entrenados con grandes cantidades de datos, como libros, artículos y páginas web. Estos modelos son capaces de aprender las reglas del lenguaje y las estructuras gramaticales, lo que les permite generar textos que no solo son correctos, sino también creativos e interesantes.

Existen varios modelos, tanto cerrados, como ChatGPT, Bard, ... y otros abiertos como llama2.

Uso de la plataforma: Ollama

Ollama es una plataforma para gestionar distintos modelos de IA generativa de código abierto que puedes instalar y configurar en tu propio ordenador. Esto te da la libertad de experimentar con la tecnología y de usarla para tus propios proyectos.

Componentes básicos:

Modelos: Los modelos son el núcleo de la IA generativa. Son programas informáticos que han sido entrenados con grandes cantidades de datos para aprender las reglas del lenguaje y las estructuras gramaticales.

Direrentos modelos: Vicuna, llama2, dolphin-mixtral:8x7b, mistral ... y un largo etc. Hasta se pueden configurar y adaptar a tus necesidades.

Prompt: El prompt es una frase o un conjunto de frases que le das a la IA para que te ayude a generar texto. El prompt le da a la IA una idea de lo que quieres que escriba.

System: El sistema es la parte de la IA que se encarga de procesar el prompt y de generar el texto.

Muy interesante y aquí podemos hacer que sea un personaje, adaptarlo para que realice distintas funciones. Fácil configurable.

Contexto: El contexto es la información que rodea al prompt. Esta información puede ayudar a la IA a generar un texto más preciso y relevante.

 

Cómo configurar una IA de forma local: "Ollama"

Instalación: 

Cómo instalar Ollama: Instalación de forma local:

información de instalación en Ollama

Integración con olesur.com

Configurar ollama para integrase con olesur.com

Linux/Mac OS

⚙️ El LLM predeterminado es vicuna ejecutado localmente por Ollama. Deberá instalar la aplicación de escritorio de Ollama y ejecutar los siguientes comandos para darle a este sitio acceso al modelo que se ejecuta localmente:

 $ OLLAMA_ORIGINS=https://www.olesur.com OLLAMA_HOST=127.0.0.1:11435 ollama serve 

Luego, en otra ventana:

$ OLLAMA_HOST=127.0.0.1:11435 ollama pull vicuna 

Windows

⚙️ El LLM predeterminado es vicuna ejecutado localmente por Ollama. Deberá instalar la aplicación de escritorio de Ollama y ejecutar los siguientes comandos para darle a este sitio acceso al modelo que se ejecuta localmente:

$Env:OLLAMA_ORIGINS="https://www.olesur.com"; $Env:OLLAMA_HOST="127.0.0.1:11435"; ollama serve

Luego, en otra ventana:

$Env:OLLAMA_HOST="127.0.0.1:11435"; ollama pull vicuna

O el modelo requerido

Para instalar Ollama, puedes seguir las instrucciones que se encuentran en la página web oficial: https://ollama.ai/

 

Nuestros servicios:

Ofrecemos una serie de servicios para ayudarte a configurar y utilizar Ollama, incluyendo:

Nuestra manera de configurar estos modelos; podemos elegir de forma individual tanto, los modelos, promt, system, crear varios sistemas y guardardos, utilizar contexto, todo configurable y dependiendo de tus recursos.

Como prueba, he usado hasta una raspberry, con docker.

docker run -d --gpus=all -v .:/root/.ollama -e OLLAMA_ORIGINS="127.0.0.1:*,http://192.168.1.1:*,https://www.olesur.com,https://olesur.com"  -p 11435:11434 --name ollama --restart unless-stopped  ollama/ollama


Para pruevas estupendo, lento pero el modelo que mejor va el "dolphin-mixtral:8x7b"

Por tanto, seguiremos investigando.

Aunque con la Nvidio 4090, va genial el dolphin-mixtral:8x7b

La IA generativa de texto tiene el potencial de cambiar radicalmente las webs. Algunas de las cosas que podemos esperar ver en el futuro son:

 

Distintos asistentes: La IA generativa de texto puede usarse para crear asistentes virtuales que puedan ayudar a los usuarios a encontrar información y a realizar tareas.

Personajes: La IA generativa de texto puede usarse para crear personajes virtuales que puedan interactuar con los usuarios.

Nuevos juegos: La IA generativa de texto puede usarse para crear nuevos juegos que sean más interactivos y envolventes.

 

Ejemplos de uso en nuetra web.:

Generador de Crucigramas: Facilita la creación de crucigramas a través de un tema.

Generador de Sopa de letras: Facilita la elección de palabras sobre un tema para la realización de sopas de letras.

Crear historias: La IA generativa de texto puede usarse para crear historias que sean creativas y originales.

Generar artículos de blog: La IA generativa de texto puede usarse para generar artículos de blog que sean informativos e interesantes.

Guardar las salidas del Modelo, y crear de forma local toda la información, olesur no guarda nada, es todo en forma local.

Escribir correos electrónicos: La IA generativa de texto puede usarse para escribir correos electrónicos que sean personalizados y relevantes.

Juegos: Juego del Prisionero, lo vi en una página, muy intersante.

 

Más información:

Para obtener más información sobre Ollama y la IA generativa de texto, puedes visitar la página web oficial: https://ollama.ai/