Chat GPT local. Haz tu propio Chat GPT
Si estas interesado en el mundo de la tecnología y la informática seguro has probado el famoso ChatGPT y has interactuado con el haciendole preguntas de lo mas variado.
Respondent.io
Respondent.io es una plataforma en línea que conecta investigadores y empresas con participantes para estudios de mercado y encuestas remuneradas. Su objetivo es facilitar la recopilación de datos cualitativos y cuantitativos mediante entrevistas, encuestas y pruebas de usuarioIgual te has planteado tener un sistemas parecido a Chat GPT con información personal o relativa a tu empresa de forma que puedas hacer preguntas sobre la información que te interesa o información relativa a tu negocio.
En esta entrada analizaremos la posibilidad de tener un Chat GPT en modo local con información privada solo accesible por ti o por tu empresa.
Chat GPT es originariamente un producto de la empresa OpenAI y es una inteligencia artifical generativa.
Se basa en el concepto de un sistema que se puede alimentar de información proporcionada en numerosos formatos y a la que puedes hacer preguntas directas en lenguaje natural.
Las diferencias con otros sistemas de obtención de información es clara.
Por ejemplo
La forma habitual hasta ahora para obtener información sobre algo que nos interesa es ir a un buscador tipo Google y preguntarle algo.
Este tipo de buscadores te proporciona una serie de links o enlaces a paginas que hablan sobre el termino que estas buscando y tu debes ir entrando en cada link para verificar si la información proporcionada es la que necesitas, sino pasar a otro link y así sucesivamente.
Chat GPT hace algo parecido pero en vez de darte una serie de enlaces a paginas web te proporciona directamente la información que andas buscando.
Visto esto podemos usar Chat GPT con nuestros propios datos ??
Aunque Chat GPT de OpenAI proporciona una manera de tener una versión personal que puedes alimentar con tus datos, no es la mejor manera porque los datos que proporciones serán de acceso publico y habrá gente que podrá acceder a ellos.
Investigando un poco sobre el tema vi que hay una opción Open Source para tener un sistema parecido pero en modo local de forma que solo tu puedas acceder a los datos sin tener que hacerlos públicos.
Hay un proyecto open source de dominio publico llamado GPT4All
Con este programa vas a instalar un chat de inteligencia artificial que no necesita ni de Internet ni de una gran poder informático para funcionar, aunque tiene sus límites. Con él, podrás instalar varios modelos de IA, aunque casi todos están basados en GPT-J (que a si vez está basado en GPT-2), o en la IA de Llama.
Esto quiere decir que tendrás una IA más privada que ChatGPT, pero con una capacidad bastante por detrás de otras como GPT-4. Sin embargo, es un proyecto que ya está capacitado y cuyos modelos han sido entrenados para responder a preguntas sobre el mundo, ser un asistente de escritura, resumir documentos o ayudarte con otras tareas sencillas.
Pasos a seguir para crear tu propio Chat GPT local
Paso 1: Instala GPT4All en tu ordenador
Ves a la dirección es gpt4all.io. En esta página, enseguida verás el apartado Download Desktop Chat Client, donde tienes iconos para descargar su versión para Windows, macOS o GNU/Linux, y cuando pulses en ellos se bajará el instalador que debes usar.
Paso 2: Elegir un modelo
Después de instalar la aplicación, cuando la abras por primera vez se abrirá una pantalla en la que tienes que elegir el modelo que quieres descargar. Son modelos que pesan varios gigas y han sido entrenados por los responsables del proyecto, y puedes descargar uno o varios pulsando en Download.
Paso 3: Interactuar con el modelo
Una vez instalado el modelo ya puedes interacturar haciendole preguntas y obteniendo respuestas.
Paso 4: Alimentar el modelo con tus propios datos
Para alimentar el modelo con tus propios datos debe añadir el plugin LocalDocs
LocalDocs es una función de GPT4All que le permite chatear con sus archivos y datos locales. Le permite utilizar potentes LLM locales para chatear con datos privados sin que ningún dato salga de su computadora o servidor. Al utilizar LocalDocs, su LLM citará las fuentes que probablemente contribuyeron a un resultado determinado. El complemento LocalDocs utilizará sus documentos para ayudar a responder las solicitudes y verá que aparecen referencias debajo de la respuesta.
Habilitar LocalDocs
Vaya a Configuración > pestaña LocalDocs.
Descargue el modelo SBert
Configure una colección (carpeta) en su PC que contenga los archivos a los que su LLM debería tener acceso.
Puedes modificar el contenido de la carpeta/directorio en cualquier momento.
A medida que agregues más archivos a su colección, su LLM podrá acceder a ellos dinámicamente.
En la parte superior derecha, haga clic en el ícono de la base de datos y seleccione qué colección desea que su LLM conozca durante su sesión de chat.
Puede comenzar a buscar con sus documentos locales incluso antes de que la colección haya completado la indexación, pero tenga en cuenta que la búsqueda no incluirá aquellas partes de la colección que aún no se han indexado.
Ten en cuenta que esta versión no tendrá la potencia de Chat GPT pero te servirá para obtener información local sobre tu conjunto de documentos y datos.
Te puede interesar
