Crea una cuenta para usar la IA

Crea una cuenta gratuita para desbloquear todas las funciones:

Haz preguntas sobre los vídeos con IA
Usa la búsqueda inteligente (IA)
Guarda tus vídeos favoritos
Marca tus categorías preferidas
Organiza tus subcategorías favoritas
Accede a tu página de favoritos personalizada
Accede al historial de tus conversaciones
Personaliza tu página de inicio con tus favoritos

¿Ya tienes una cuenta? Iniciar sesión

IA Local Explicada | Hardware, Configuración y Modelos

Name: IA Local Explicada | Hardware, Configuración y Modelos
Uploaded: 2026-03-12T14:00:11+00:00
Duration: 25 min

Syntax

En este video, CJ te guía a través del amplio mundo de la IA local. Muestra cómo configuró su nuevo mini PC con 128GB de memoria y da sus impresiones generales sobre el uso de modelos locales para tareas básicas y programación.

00:00 - introducción

01:03 - términos / conceptos clave

01:40 - necesitamos GPUs

02:16 - los LLMs necesitan mucha VRAM

03:20 - cuantización de modelos

04:13 - dónde encontrar modelos

05:13 - precios de GPU

06:33 - PCs con memoria unificada

10:58 - desempaquetado del mini PC

12:13 - instalación / configuración de Fedora

13:28 - configuración de memoria GTT

14:04 - cómo ejecutar modelos locales

16:33 - cómo descargar y encontrar modelos

18:54 - impresiones sobre el prompting básico

20:31 - impresiones generales de programación

23:21 - conclusiones

GMKtec EVO-X2 AI Mini PC | https://amzn.to/4bbgdMg

Qué es la Inferencia LLM | https://huggingface.co/blog/Kseniase/

Modelos de Lenguaje Grande explicados brevemente | https://www.youtube.com/watch?v=LPZh9BOjkQs&list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi&index=5

Qué es la Memoria GPU y Por Qué es Importante | https://www.bentoml.com/blog/what-is-gpu-memory-and-why-it-matters-for-llm-inference

¿Cuánta VRAM necesito para la inferencia LLM? | https://modal.com/blog/how-much-vram-need-inference

Una Guía Visual sobre Cuantización | https://www.maartengrootendorst.com/blog/quantization/

Modelos Unsloth | https://unsloth.ai/docs/models/tutorials

NVIDIA DGX Spark | https://www.nvidia.com/en-us/products/workstations/dgx-spark/

Strix Halo Wiki | https://strixhalo.wiki/Hardware/PCs

Aumentando la asignación de VRAM en APUs de IA AMD bajo Linux | https://www.jeffgeerling.com/blog/2025/increasing-vram-allocation-on-amd-ai-apus-under-linux/

Ollama | https://ollama.com/

LM Studio | https://lmstudio.ai/

vLLM | https://docs.vllm.ai/en/latest/

llama.cpp | https://github.com/ggml-org/llama.cpp

Cajas de Herramientas AMD Strix Halo | https://github.com/kyuz0/amd-strix-halo-toolboxes

Hugging Face CLI | https://huggingface.co/docs/huggingface_hub/guides/cli

Modelos de Hugging Face llama.cpp | https://huggingface.co/models?apps=llama.cpp&sort=trending

Spec Kit | https://github.github.com/spec-kit/

OpenSpec | https://openspec.dev/

------------------------------------------------------------------------------

¡Contáctanos en redes sociales!

Syntax: https://x.com/syntaxfm

Scott: https://x.com/stolinski

Wes: https://x.com/wesbos

CJ: https://x.com/CodingGarden

Randy: https://www.youtube.com/@randyrektor

http://www.syntax.fm

Presentado por Sentry.io

#programación #llm #llama #syntax #syntaxfm