Crie uma conta para usar a IA

Crie uma conta gratuita para desbloquear todos os recursos:

Faça perguntas sobre vídeos com IA
Use a busca inteligente (IA)
Salve seus vídeos favoritos
Marque suas categorias favoritas
Organize suas subcategorias favoritas
Acesse sua página de favoritos personalizada
Acesse o histórico das suas conversas
Personalize sua página inicial com seus favoritos

Já tem uma conta? Entrar

IA Local Explicada | Hardware, Configuração e Modelos

Name: IA Local Explicada | Hardware, Configuração e Modelos
Uploaded: 2026-03-12T14:00:11+00:00
Duration: 25 min

Syntax

Neste vídeo, CJ te guia pelo vasto mundo da IA local. Ele mostra como configurou seu novo mini PC com 128GB de memória e dá suas impressões gerais sobre a execução de modelos locais para tarefas básicas e programação.

00:00 - introdução

01:03 - termos / conceitos chave

01:40 - precisamos de GPUs

02:16 - LLMs precisam de muita VRAM

03:20 - quantização de modelos

04:13 - onde encontrar modelos

05:13 - preços de GPU

06:33 - PCs com memória unificada

10:58 - unboxing do mini PC

12:13 - instalação / configuração do Fedora

13:28 - configuração de memória GTT

14:04 - como executar modelos locais

16:33 - como baixar e encontrar modelos

18:54 - impressões sobre prompting básico

20:31 - impressões gerais sobre programação

23:21 - conclusões

GMKtec EVO-X2 AI Mini PC | https://amzn.to/4bbgdMg

O que é Inferência LLM | https://huggingface.co/blog/Kseniase/

Modelos de Linguagem Grande explicados brevemente | https://www.youtube.com/watch?v=LPZh9BOjkQs&list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi&index=5

O que é Memória GPU e Por Que É Importante | https://www.bentoml.com/blog/what-is-gpu-memory-and-why-it-matters-for-llm-inference

Quanto de VRAM eu preciso para inferência LLM? | https://modal.com/blog/how-much-vram-need-inference

Um Guia Visual para Quantização | https://www.maartengrootendorst.com/blog/quantization/

Modelos Unsloth | https://unsloth.ai/docs/models/tutorials

NVIDIA DGX Spark | https://www.nvidia.com/en-us/products/workstations/dgx-spark/

Strix Halo Wiki | https://strixhalo.wiki/Hardware/PCs

Aumentando a alocação de VRAM em APUs de IA AMD no Linux | https://www.jeffgeerling.com/blog/2025/increasing-vram-allocation-on-amd-ai-apus-under-linux/

Ollama | https://ollama.com/

LM Studio | https://lmstudio.ai/

vLLM | https://docs.vllm.ai/en/latest/

llama.cpp | https://github.com/ggml-org/llama.cpp

Caixas de Ferramentas AMD Strix Halo | https://github.com/kyuz0/amd-strix-halo-toolboxes

Hugging Face CLI | https://huggingface.co/docs/huggingface_hub/guides/cli

Modelos Hugging Face llama.cpp | https://huggingface.co/models?apps=llama.cpp&sort=trending

Spec Kit | https://github.github.com/spec-kit/

OpenSpec | https://openspec.dev/

------------------------------------------------------------------------------

Entre em contato conosco nas Redes Sociais!

Syntax: https://x.com/syntaxfm

Scott: https://x.com/stolinski

Wes: https://x.com/wesbos

CJ: https://x.com/CodingGarden

Randy: https://www.youtube.com/@randyrektor

http://www.syntax.fm

Patrocinado por Sentry.io

#programação #llm #llama #syntax #syntaxfm