Según un informe de IT House del 25 de junio, el desarrollador Iván Martínez Toro lanzó recientemente el modelo de código abierto PrivateGPT, que permite a los usuarios hacer preguntas basadas en sus propios documentos sin conexión a Internet. Se informa que el modelo de código abierto PrivateGPT se puede ejecutar localmente en dispositivos domésticos, y el modelo de lenguaje grande (LLM) de código abierto llamado gpt4 debe descargarse antes de ejecutarse. Luego, indique a los usuarios que coloquen todos sus archivos relacionados en un directorio para que el modelo extraiga todos los datos. Después de entrenar el LLM, el usuario puede hacer cualquier pregunta al modelo y responderá usando el documento proporcionado como contexto. PrivateGPT puede ingerir más de 58 000 palabras y actualmente requiere una gran cantidad de recursos informáticos locales (se recomienda una CPU de gama alta) para configurarse. Toro dijo que PrivateGPT se encuentra actualmente en la etapa de prueba de concepto (PoC), lo que al menos prueba que un gran modelo similar a ChatGPT se puede crear completamente localmente. Es previsible que el potencial de esta conversión de PoC en productos reales pueda permitir empresas para acceder a personalización, seguridad y privacidad ChatGPT para aumentar la productividad.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Según un informe de IT House del 25 de junio, el desarrollador Iván Martínez Toro lanzó recientemente el modelo de código abierto PrivateGPT, que permite a los usuarios hacer preguntas basadas en sus propios documentos sin conexión a Internet. Se informa que el modelo de código abierto PrivateGPT se puede ejecutar localmente en dispositivos domésticos, y el modelo de lenguaje grande (LLM) de código abierto llamado gpt4 debe descargarse antes de ejecutarse. Luego, indique a los usuarios que coloquen todos sus archivos relacionados en un directorio para que el modelo extraiga todos los datos. Después de entrenar el LLM, el usuario puede hacer cualquier pregunta al modelo y responderá usando el documento proporcionado como contexto. PrivateGPT puede ingerir más de 58 000 palabras y actualmente requiere una gran cantidad de recursos informáticos locales (se recomienda una CPU de gama alta) para configurarse. Toro dijo que PrivateGPT se encuentra actualmente en la etapa de prueba de concepto (PoC), lo que al menos prueba que un gran modelo similar a ChatGPT se puede crear completamente localmente. Es previsible que el potencial de esta conversión de PoC en productos reales pueda permitir empresas para acceder a personalización, seguridad y privacidad ChatGPT para aumentar la productividad.