IA local
Llama Windows: nova app gratuita da Hugging Face corre modelos de IA no teu PC sem internet
Escolhes um modelo aberto, descarregas com um clique e conversas com ele a partir da área de notificação do Windows 11. Não precisas de terminal nem de permissões de administrador, e as tuas perguntas não saem do computador. A aplicação é gratuita e de código aberto.
Correr um modelo de inteligência artificial no próprio computador, sem enviar nada para a nuvem, era até agora uma tarefa para quem se dá bem com a linha de comandos. A Hugging Face, a plataforma onde são partilhados muitos dos modelos de IA abertos, quer mudar isso no Windows. A empresa lançou a 13 de outubro o Llama Windows, uma aplicação gratuita e de código aberto que instala o motor llama.cpp e põe modelos abertos a funcionar com poucos cliques.
Como funciona
A aplicação fica na área de notificação do Windows 11, junto ao relógio, sem janela própria na barra de tarefas. Ao clicar no ícone abre-se um pequeno painel com duas listas: os modelos que já tens no computador e uma seleção de modelos recomendados, com versões comprimidas de modelos abertos conhecidos. Para cada um vês o número de parâmetros, o espaço que ocupa em disco e se consegue analisar imagens, o que ajuda a escolher um que caiba na memória do teu PC antes de descarregar gigabytes.
Depois de descarregado, basta carregar o modelo e abrir a interface web do llama.cpp para começar a conversar. Há também um atalho, Alt+Espaço, que abre uma janela de conversa por cima de qualquer aplicação. Se o llama.cpp ainda não estiver instalado, a aplicação trata disso com o instalador oficial e sem pedir permissões de administrador, segundo a Hugging Face.
O Llama Windows é a versão para Windows da aplicação Llama que já existia para Mac. O pacote de instalação disponível no GitHub serve computadores com processadores x64 e ARM64, e a Hugging Face destaca o suporte desde o primeiro dia aos novos portáteis com o chip RTX Spark, da NVIDIA.
Privacidade e uso avançado
O principal argumento é a privacidade. De acordo com a documentação do projeto, a aplicação não envia telemetria e os pedidos que faz para fora servem apenas para descarregar modelos e verificar atualizações. As perguntas e as respostas ficam no computador e, depois de teres o modelo, não precisas de ligação à internet. Convém lembrar que um modelo local depende da tua máquina: quanto menos memória tiveres, mais pequeno terá de ser o modelo e mais limitadas serão as respostas.
Para quem programa, o llama.cpp fica a correr como servidor local no endereço localhost:9931, compatível com a API da OpenAI. Assim, outras aplicações, scripts ou agentes podem usar os mesmos modelos sem chaves nem custos por utilização. Os modelos ficam guardados na pasta de cache da Hugging Face, partilhada com outras ferramentas, e é possível mudá-la para outro disco nas definições.
O Llama Windows descarrega-se no site llama.app ou no repositório ggml-org/Llama-Windows, no GitHub, e só funciona no Windows 11.
