La IA china DeepSeek funciona de forma local en PC, ¿es el fin del modelo de pago de Microsoft y OpenAI con ChatGPT?
Estamos en una era donde la IA es uno de los sectores más importantes de la industria tecnológica y de hecho, se ha expandido tanto que ha llegado a permear a otros sectores y segmentos del mercado. Al final la inteligencia artificial nos permite hacer uso de ella en todo tipo de situaciones, tanto a La entrada La IA china DeepSeek funciona de forma local en PC, ¿es el fin del modelo de pago de Microsoft y OpenAI con ChatGPT? aparece primero en El Chapuzas Informático.
Estamos en una era donde la IA es uno de los sectores más importantes de la industria tecnológica y de hecho, se ha expandido tanto que ha llegado a permear a otros sectores y segmentos del mercado. Al final la inteligencia artificial nos permite hacer uso de ella en todo tipo de situaciones, tanto a la hora de generar textos, imágenes, vídeos o entrenarla para llevar a cabo ciertas tareas. Si bien nos han hecho creer que los LLM de grandes dimensiones requieren el uso de miles de gráficas y necesitamos estar conectados a Internet en todo momento, China ha cambiado totalmente este concepto con la IA DeepSeek, el cual no solo ofrece resultados semejantes a ChatGPT, sino que además podemos ejecutarla de forma local en nuestro PC sin estar conectados a Internet.
OpenAI se considera la empresa más importante en el sector de la inteligencia artificial principalmente por ser la creadora de ChatGPT. A pesar de que a día de hoy haya muchas más opciones, ChatGPT sigue siendo la elegida por la gran mayoría de personas y es la más conocida con diferencia. No es que extrañar que nos encontremos menciones de esta en todos los lados incluso aunque no se considera la mejor en todos los aspectos, al menos usando ciertos modelos de GPT.
DeepSeek se puede utilizar desde tu PC de forma local y sin necesidad de conectarte a Internet, a diferencia de la IA de OpenAI
Seems like we are just about to stop giving data to anybody.. Deepseek seems to work great with few handful of PC GPUs at home.. we are excited about what we can do with a quality model that we can control for our daily automation needs.. https://t.co/HaNcpfWdyC
— Raja Koduri (@RajaXg) January 27, 2025
Al igual que creíamos que ChatGPT no tendría rival ni nadie podría llegar a superarlo, tampoco pensábamos que una compañía tan grande como Microsoft o incluso Google, tuvieran competencia por parte del país que tantas sanciones estadounidenses recibió, China. Después de más de un año sufriendo las restricciones de compra de hardware que fueron impuestas por EE.UU., podemos confirmar que el gigante asiático ha podido lograr una proeza usando menos hardware que las otras grandes empresas.
DeepSeek ha llegado a denominarse como el "futuro" de los modelos de IA, debido a que han conseguido algo comparable o incluso mejor a ChatGPT y otros modelos utilizando menos tarjetas gráficas de NVIDIA, siendo más eficiente y más barato en costes. De hecho, el mismísimo Raja Koduri de AMD está a favor de usar DeepSeek indicando que se puede llegar a utilizar en un PC que tengamos en casa con nuestras propias GPU, pues resulta que no se requiere estar conectados a Internet y se puede ejecutar de forma local.
Las RTX 3090 son la mejor opción precio/rendimiento para DeepSeek si las consigues baratas
DeepSeek R1 se lanzó oficialmente hace unos pocos días y ya ha revolucionado Internet por ofrecer resultados muy buenos y a la altura de la competencia estadounidense. China ha sorprendido de nuevo cuando todo estaba en su contra y si tienes una buena GPU y buena cantidad de RAM, podrás probar el "benchmark Ollama" que muestra el rendimiento en DeepSeek R1. En Reddit tenemos el post que indica los resultados que han conseguido algunos usuarios, pero antes de eso, se menciona el hardware que deberemos tener.
En caso de que queramos usar DeepSeek R1 14B, con una GPU de gama media-alta será suficiente, pero si optamos por 32B necesitaremos una gráfica con más VRAM. Si pasamos al caso del modelo 70B, aquí se habla de usar GPU con 48 GB de VRAM, aunque podemos ver que también se pueden usar 2 de 24 GB. En los resultados podemos ver la tabla de gráficas, precio y rendimiento en cada uno de estos modelos. Con 14B, la RTX 3090 es la que mejor rinde y ofrece el mejor ratio por un precio de 800 dólares. En la versión 32B, la RTX 3090 sigue liderando porque a pesar de que la 4090 es más rápida, es considerablemente más cara. Por último, en 70B, 2x RTX 3090 ofrecen el mejor rendimiento por su precio, llegando casi a una RTX 6000 ADA.
La entrada La IA china DeepSeek funciona de forma local en PC, ¿es el fin del modelo de pago de Microsoft y OpenAI con ChatGPT? aparece primero en El Chapuzas Informático.
