Olá a todos,
Tenho ouvido bastante a frase quando falo em ter o nosso próprio homelab de IA – Oh Nuno, eu gostava de experimentar mas só tenho um portátil. Não tenho forma de correr LLM’s pesados no meu computador e queria tanto experimentar usar AI para automatizar os meus processos – ao que eu respondo, que se privacidade não for um problema, existem providers de inference engines de LLM que disponibilizam os acessos as suas API’s de forma controlada para que os entusiastas e os potenciais futuros clientes lhes possam aceder, democratizando o acesso a estas poderosas tecnologias. O post de hoje é sobre estes providers.
O que são fornecedores de llm e por que importam:
Os fornecedores de inference engines de LLM (referidos no resto do post por LLM’s) são plataformas que hospedam e disponibilizam acesso a modelos de linguagem através de interfaces de programação (APIs). Estes serviços eliminam a necessidade de ter hardware especializado, como placas gráficas NVIDIA RTX 4090 ou servidores com dezenas de gigabytes de RAM, tornando possível experimentar e desenvolver com tecnologias de ponta mesmo com um computador básico.
Para quem não possui um homelab equipado com hardware avançado, estes fornecedores representam uma oportunidade única de aceder a modelos que, de outra forma, seriam impossíveis de executar localmente. Desde pequenos projetos pessoais até protótipos de aplicações comerciais, estes recursos gratuitos permitem explorar o potencial dos LLM sem investimento inicial significativo.
O utilizador Jun Siang Cheah no github fez uma compilação muito boa e colocou para consulta no seu: https://github.com/cheahjs/free-llm-api-resources?tab=readme-ov-file.
Da lista que ele fornece, trago aqui os que *eu* considero como de maior visibilidade e com melhores track records e capacidade de nos ajudar no nosso caminho de aprendizagem.
Fornecedores completamente gratuitos:
OpenRouter.ai
O OpenRouter destaca-se como uma das plataformas mais generosas no panorama actual, oferecendo acesso gratuito a uma impressionante variedade de modelos. Com limites de 20 pedidos por minuto, 50 pedidos por dia (expandindo para 1000 com um top-up de $10 vitalício), esta plataforma disponibiliza acesso a modelos de última geração como o DeepSeek R1, Qwen 3.0, Llama 4 Scout e Maverick, e diversos modelos da família Gemma 3.
A diversidade de modelos disponíveis é notável, incluindo desde pequenos modelos de 1B de parâmetros até gigantes como o Llama 3.1 405B. Esta variedade permite aos utilizadores experimentar com diferentes capacidades e encontrar o modelo mais adequado às suas necessidades específicas, seja para geração de código, análise de texto, ou tarefas multimodais.
Google AI Studio
O Google oferece acesso gratuito aos seus modelos Gemini através do AI Studio, com limites generosos que incluem até 1,000,000 de tokens por minuto para o Gemini 2.0 Flash. Esta plataforma é particularmente valiosa para quem trabalha com processamento de grandes volumes de texto ou precisa de capacidades multimodais, como análise de imagens e documentos.
Os modelos Gemini destacam-se pela sua capacidade de raciocínio e compreensão contextual, tornando-os ideais para aplicações que requerem análise profunda de conteúdo ou geração de respostas complexas e estruturadas.
Groq
Conhecido pela sua velocidade de inferência excepcional, o Groq oferece acesso gratuito a diversos modelos incluindo Llama, Gemma, e modelos especializados como o Whisper para transcrição de áudio. Com limites que variam entre 6,000 e 70,000 tokens por minuto dependendo do modelo, esta plataforma é ideal para aplicações que requerem respostas rápidas.
A arquitectura única do Groq, baseada em Language Processing Units (LPUs), permite velocidades de inferência significativamente superiores aos fornecedores tradicionais, tornando-a uma escolha excelente para aplicações interactivas ou que processam grandes volumes de pedidos.
Cloudflare Workers AI
Com uma abordagem baseada em “neurónios” em vez de tokens tradicionais, oferecendo 10,000 neurónios diários gratuitamente, o Cloudflare Workers AI proporciona acesso a uma variedade de modelos optimizados. Esta plataforma integra-se perfeitamente com a infraestrutura global da Cloudflare, oferecendo baixa latência em todo o mundo.
Os modelos disponíveis incluem versões optimizadas de Llama, Mistral, Qwen, e outros, frequentemente em formatos comprimidos (AWQ, FP8) que mantêm a qualidade enquanto reduzem os requisitos computacionais.
Sambanova
Esta plataforma oferece acesso gratuito a modelos como Llama 4 Scout com limites de 30 pedidos por minuto e quotas diárias generosas. O Sambanova distingue-se pela sua arquitectura de chips especializados para IA, oferecendo um equilíbrio interessante entre performance e acessibilidade.
Cerebras Inference
Focado em modelos de alta performance, o Cerebras oferece acesso gratuito com limites de até 60 pedidos por minuto. A sua tecnologia de Wafer-Scale Engine permite o processamento de modelos extremamente grandes com eficiência notável.
Cohere
Oferecendo acesso aos seus modelos Command através de uma API com limites de 20 pedidos por minuto e 1,000 pedidos mensais, o Cohere especializa-se em modelos optimizados para tarefas empresariais e análise de texto estruturado.
Hugging Face
Com $0.10 mensais em créditos gratuitos, a Hugging Face Serverless Inference oferece acesso a uma vasta biblioteca de modelos open source. Esta plataforma é particularmente valiosa para investigadores e programadores que querem experimentar com modelos menos convencionais ou especializados.
Fornecedores com créditos de teste:
Para além dos fornecedores completamente gratuitos, existe uma categoria igualmente valiosa de plataformas que oferecem créditos iniciais significativos após registo:
Together AI
Oferece $1 em créditos gratuitos, o que pode parecer modesto mas permite experimentação considerável com modelos menores. A plataforma destaca-se pela sua extensa colecção de modelos open source e interfaces de fácil utilização.
Fireworks AI
Com $1 inicial, esta plataforma foca-se na optimização de velocidade e eficiência, oferecendo alguns dos tempos de resposta mais rápidos do mercado para modelos open source.
Baseten
Oferecendo $30 em créditos iniciais, o Baseten representa uma oportunidade substancial para experimentação prolongada. A plataforma permite pagamento por tempo de computação, tornando-a eficiente para cargas de trabalho intermitentes.
RunPod
Com $5 em créditos, esta plataforma especializa-se em infraestrutura flexível, permitindo tanto inferência quanto fine-tuning de modelos. É particularmente útil para quem precisa de controlo mais granular sobre o ambiente de execução.
Modelos e capacidades disponibilizadas:
A diversidade de modelos disponíveis através destes fornecedores é impressionante. Desde modelos pequenos e eficientes como o Gemma 3 1B até gigantes como o Llama 3.1 405B, cada um oferece capacidades específicas:
Modelos de Código: DeepSeek Coder, Qwen2.5 Coder, e Codestral especializam-se em geração e análise de código, oferecendo assistência em múltiplas linguagens de programação.
Modelos Multimodais: Llama 3.2 Vision, Qwen2.5 VL, e InternVL3 combinam processamento de texto e imagem, permitindo análise de documentos, descrição de imagens, e tarefas visuais complexas.
Modelos de Raciocínio: QwQ 32B, DeepSeek R1, e modelos da família Phi-4 Reasoning especializam-se em tarefas que requerem lógica step-by-step e resolução de problemas complexos.
Modelos Multilingues: Qwen 3.0, Aya Expanse, e outros oferecem suporte nativo para múltiplas línguas, incluindo português, facilitando aplicações localizadas.
Considerações técnicas e limitações:
Embora estes recursos gratuitos sejam extremamente valiosos, é importante compreender as suas limitações e elas existem:
Limites de Rate: A maioria dos fornecedores implementa limites de pedidos por minuto/hora/dia para prevenir abuso e garantir disponibilidade para todos os utilizadores.
Quotas de Tokens: Muitos serviços limitam o número total de tokens processados, requerendo gestão cuidadosa para projectos extensos.
Disponibilidade: Serviços gratuitos podem ter maior latência ou ocasionais períodos de indisponibilidade comparativamente a planos pagos.
Privacidade de Dados: Alguns fornecedores podem utilizar dados enviados para treino de modelos, especialmente em tiers gratuitos. É crucial ler os termos de serviço quando se trabalha com dados sensíveis.
Use cases práticos:
Estes fornecedores gratuitos podem ser utilizados numa vasta gama de aplicações e automações:
Prototipagem Rápida: Desenvolvimento e teste de aplicações baseadas em IA sem custos iniciais significativos.
Educação e Investigação: Estudantes e investigadores podem explorar capacidades avançadas de IA sem barreiras financeiras.
Automatização Pessoal: Criação de scripts e ferramentas para automatizar tarefas quotidianas como resumo de artigos, geração de conteúdo, ou análise de dados.
Desenvolvimento de Chatbots: Criação de assistentes virtuais para websites pessoais ou pequenos negócios.
Análise de Documentos: Processamento e extracção de informação de documentos PDF, imagens, ou outros formatos.
Estratégias de optimização:
Como em tudo, existe uma forma certa e uma forma errada de fazer as coisas. A forma certa irá maximizar os tokens que temos disponíveis para utilizar, garantido uma experiencia suave.
Para maximizar o valor destes recursos gratuitos, considere as seguintes estratégias:
Escolha do Modelo Adequado: Utilize modelos menores para tarefas simples, reservando modelos maiores para casos que realmente beneficiem da capacidade adicional.
Gestão de Quotas: Distribua pedidos ao longo do tempo para evitar esgotar limites rapidamente. Não matemos a galinha dos ovos de ouro.
Combinação de Fornecedores: Use múltiplas plataformas para diferentes tipos de tarefas, aproveitando os pontos fortes de cada uma. Existe software como por exemplo o litellm que permite load balancing de requests de forma a distribuir a carga por todos.
Optimização de Prompts: Prompts bem construídos podem obter melhores resultados com menos tokens, maximizando a eficiência.
O Futuro dos recursos gratuitos:
Depois da barracada que foi o fim do google drive unlimited, é normal que tenhamos algum receio de utilizar recursos gratuitos e colocar elementos para nós importantes neles, mas a verdade é que o panorama dos fornecedores gratuitos de LLM está em constante evolução. Novos fornecedores surgem regularmente, modelos são actualizados, e as quotas podem ser ajustadas.
Estarmos informados sobre estas mudanças é fundamental para aproveitar ao máximo estes recursos.
A crescente competição no espaço da IA está gradualmente a aumentar a generosidade dos tiers gratuitos, uma tendência benéfica para toda a comunidade de desenvolvedores e investigadores.
Aviso Importante: Uso responsável e privacidade.
É fundamental enfatizar a importância do uso responsável destes recursos gratuitos. O abuso destes serviços – através de automação excessiva, criação de contas múltiplas, ou utilização que excede claramente o espírito da oferta gratuita – pode resultar na redução ou eliminação destes recursos para toda a comunidade.
Respeitem os Limites: Não tentem contornar limites de rate através de múltiplas contas ou outras práticas questionáveis.
Usem com Moderação: Lembrem-se que estes recursos são subsidiados pelos fornecedores e têm custos reais associados.
Considerem Upgrades: Se um serviço gratuito se torna essencial para o vosso trabalho, considerem subscrever um plano pago para apoiar a sustentabilidade do fornecedor.
Partilhem Responsavelmente: Ao recomendar estes recursos a outros, enfatizem sempre a importância do uso responsável.
Privacidade: Lembrem-se que ao usar LLM’s ditos “publicos” estão a usar SaaS. Os vossos dados irão ser transmitidos a entidades que não vocês para processamento, com tudo o que isso engloba. Recordem-se do caso que falamos num post anterior.
E chegamos ao fim de mais um post semanal. Neste tentamos colmatar a falta de hardware dedicado para as nossas experiencias com AI e LLM’s.
Aprendemos que os fornecedores gratuitos de motores de LLM representam uma oportunidade extraordinária para democratizar o acesso a tecnologias de inteligência artificial de ponta. E para quem não possui um homelab com hardware avançado, estes recursos eliminam barreiras técnicas e financeiras significativas, permitindo experimentação, aprendizagem, e desenvolvimento de aplicações inovadoras.
A diversidade de modelos e fornecedores disponíveis significa que praticamente qualquer caso de uso pode encontrar uma solução adequada, desde pequenos projectos pessoais até protótipos de aplicações empresariais. A chave para o sucesso está em compreender as capacidades e limitações de cada plataforma, escolher os modelos apropriados para cada tarefa, e, acima de tudo, usar estes recursos de forma responsável.À medida que o campo da inteligência artificial continua a evoluir rapidamente, estes recursos gratuitos tornar-se-ão ainda mais valiosos, permitindo que uma geração inteira de developers, investigadores, e inovadores contribua para o avanço desta tecnologia transformadora.
O futuro da IA é garantidamente opensource, open e colaborativo, e estes fornecedores gratuitos são uma peça fundamental na construção desse futuro acessível e inclusivo.
Lembrem-se: utilize estes recursos com sabedoria, respeito, e gratidão. Assim, garantimos que continuem disponíveis para beneficiar toda a comunidade global de entusiastas de inteligência artificial.
Até a próxima semana, e já sabem, se houver alguma coisa menos correcta ou que poderia beneficiar de melhoria sabem onde me encontrar.
Abraço
Nuno