Uma PS5 a correr um modelo de 27B, um Game Boy com um LLM lá dentro e um 1080 Ti esquecido num Proxmox: o r/LowEndLocalAI é onde se aprende o que a tua máquina aguenta
Olá a todos! Prefácio do costume, hoje em formato mil folhas. A primeira já a conhecem: corro modelos...
O lgtmaybe põe um modelo a rever o teu código sem que uma linha saia da tua rede. E é por coisas assim que a soberania digital deixa de ser um slide.
Olá a todos. Já conhecem a minha primeira camada: corro modelos locais, tenho um preconceito assumido a favor...
O REA põe um agente de IA a desmontar binários, e isso pode valer mais para o direito à reparação do que a directiva que Portugal ainda não transpôs…
Olá a todos! Prefácio do costume, hoje com três camadas e icing ao fim por causa das calorias....
O que o homelab me ensinou sobre escalar infraestrutura não está na tabela do Open WebUI: está em tudo o que parti quando ainda era barato partir
Olá a todos! Prefácio: é a terceira vez em dois meses que pego num artigo do Open WebUI....
O teu homelab não precisa de quinze serviços: precisa de seis, pela ordem certa, e de um backup que já tenhas restaurado
Olá a todos! Prefácio habitual: este post tinha outra cara. Havia um rascunho na gaveta com quinze categorias...
O CERN vai pôr 2200 máquinas de controlo em Debian, e a razão não foi o preço da licença: foi uma flag de compilador a decidir quando o hardware deles morre
Olá a todos! Prefácio do costume, e este é importante porque o tema aquece as pessoas depressa: eu...
Sandstorm: O Próximo passo na aventura de Self-Hosting e Soberania Digital
Olá a todos! Se leram o meu post anterior sobre o FreedomBox e começaram a dar os primeiros...
Liguei para reportar uma avaria elétrica e atenderam-me em inglês: o português deixou de ser a língua do atendimento e passou a ser a fila lenta
Olá a todos. Prefácio do costume, e hoje faz mais falta do que nunca. Eu trabalho em inglês....
O nosso homelab e a infraestrutura de um Estado correm o mesmo software: a Áustria já pôs 180 mil funcionários públicos a usá-lo, e nós temos o AMALIA à espera de uma tomada
Olá a todos! Prefácio do costume: corro Open WebUI em casa desde a versão 0.3, escrevi aqui sobre...
Envenenaram o LiteLLM durante 40 minutos e apanharam segredos de 2500 organizações. E o mais me incomoda é que quase ninguém escolheu instalá-lo.
Olá a todos! Disclaimer habitual antes de começar: eu corro LLM’s locais, defendo infraestrutura própria neste blog até...