Está no supermercado. O sinal de 5G desapareceu. O ChatGPT recusa-se a colaborar. E só se quer lembrar do nome daquela planta que a sua mulher quer para o jardim. Mas, neste caso, nem o Chato PT o pode ajudar.
Se é aventureiro ou geek o suficiente, instale a AI Edge Gallery. Lançada pela Google, é uma espécie de “loja de apps” para modelos de IA que funcionam localmente, no seu smartphone, sem necessidade de aceder à Internet.
Disponível, para já, apenas para Android, com instalação fora da Play Store e via APK , a ideia é meter a IA a correr offline. E, em vez de um megamodelo que sabe tudo (tipo GPT-4), passamos a escolher entre vários minimodelos, cada um para uma tarefa: traduzir, resumir, reconhecer plantas. Leves, rápidos e que não mandam nada para a cloud.
Chamam-lhe TinyML e todas as grandes techs já estão nisto. A lógica voltou a ser ‘isto corre cá dentr’. O que está no telefone, fica no telefone e a sua privacidade ganha um novo fôlego. O mais interessante? Pode ser este um dos possíveis futuros da IA. Não um modelo que sabe tudo, mas muitos modelos que sabem pouco… e bem. E, no fundo, estes LLM locais começam a parecer-se com apps: instala aquilo de que precisa, quando precisa. Um para e-mails, outro para plantas, outro para resumos. Pequenas inteligências modulares a montar o seu próprio ecossistema cognitivo.
Claro que ainda há falhas, mas, para o dia-a-dia, estas mini-LLM chegam e sobram. Talvez o futuro da IA passe mesmo por aqui: menos omnisciente, mais útil. Mais offline. Mais parecida connosco…ou com o que fomos no passado.
