Informatica y Tecnologia

IA en tu PC con Ollama

Cómo instalar y usar modelos de IA en tu PC con Ollama

Ollama es una herramienta que permite ejecutar modelos de inteligencia artificial localmente de manera sencilla. Es ideal para quienes desean usar IA sin complicaciones técnicas.

1. Instalar Ollama

Ollama es compatible con Windows, macOS y Linux. Para instalarlo:

• Windows y macOS: Descarga el instalador desde ollama.com y sigue las instrucciones.
• Linux (Debian/Ubuntu):

curl -fsSL https://ollama.com/install.sh | sh

Para verificar que la instalación fue exitosa, ejecuta:

ollama --version

2. Descargar y ejecutar un modelo de IA

Ollama permite descargar y usar modelos con un solo comando. Algunos modelos populares incluyen:

• LLaMA 2: Para generar texto.
• Mistral: Un modelo optimizado y ligero.
• Gemma: Modelo de Google, enfocado en eficiencia.

Para descargar y ejecutar LLaMA 2:

ollama run llama2

Si quieres usar otro modelo, por ejemplo, Mistral:

ollama run mistral

Esto descargará automáticamente el modelo y te permitirá interactuar con él en la terminal.

3. Personalizar y usar Ollama en proyectos

Usar un modelo con un prompt específico

Puedes pasarle un mensaje directamente:

ollama run llama2 "¿Qué es la inteligencia artificial?"

Crear un modelo personalizado

Ollama permite modificar modelos con Modelfile. Un ejemplo básico para crear un modelo basado en Mistral sería:

1. Crea un archivo Modelfile:

FROM mistral
SYSTEM "Eres un asistente especializado en programación."

2. Crea el modelo con:

ollama create mi_modelo -f Modelfile

3. Usa el modelo personalizado:

ollama run mi_modelo

4. Usar Ollama en una API o aplicación

Si deseas integrar Ollama en un programa o aplicación web, puedes usar su API local. Un ejemplo con curl:

curl http://localhost:11434/api/generate -d '{
  "model": "mistral",
  "prompt": "Explícame la teoría de la relatividad.",
  "stream": false
}'

También puedes integrarlo en aplicaciones con Python utilizando requests:

import requests

response = requests.post("http://localhost:11434/api/generate", json={
    "model": "mistral",
    "prompt": "Dime un chiste sobre programadores",
    "stream": False
})

print(response.json()["response"])

5. Optimización y administración de modelos

• Ver modelos instalados:

ollama list

• Eliminar modelos innecesarios:

ollama rm llama2

• Actualizar Ollama y modelos:

ollama update

Ollama simplifica la ejecución de modelos de IA en tu PC sin necesidad de configuraciones complejas. Es ideal para usuarios que quieren probar modelos como LLaMA 2 o Mistral sin instalar dependencias adicionales. Además, su integración con APIs facilita su uso en proyectos más avanzados.

Te puede interesar

Chat GPT local