Salta al contenuto

IA

Ollama incassa 65M $ e il tuo laptop si tiene l'AI per sé

Lo strumento che fa girare i modelli open-weight a casa tua ha chiuso una Series B e conta quasi 9 milioni di utenti. Il cloud non applaude, sapiens.

Foto di copertina: A S M Jobaer / CC BY-SA 4.0

TL;DR

  1. Ollama ha chiuso una Series B da 65 milioni di dollari guidata da Theory Ventures: in totale fanno 88 milioni.
  2. Quasi 9 milioni di utenti, 176.000 stelle su GitHub e piani che vanno da gratis a 100 dollari al mese.
  3. I fondatori arrivano da Docker Desktop: rendere indolori gli strumenti per sviluppatori è un bis.

Cosa è successo

Ollama, lo strumento open source per far girare modelli open-weight sulla tua macchina, ha chiuso una Series B da 65 milioni di dollari. A guidare il round è Theory Ventures, e il CEO Jeff Morgan lo ha confermato a TechCrunch.

La Series A precedente, da 15 milioni di dollari, era stata guidata da Peter Fenton di Benchmark. Fai la somma: Ollama ha raccolto 88 milioni di dollari in totale.

Lo strumento è nato nel 2023 con un obiettivo preciso: mettere gli sviluppatori in condizione di usare modelli locali in pochi minuti. Il repository su GitHub ha 176.000 stelle e quasi 17.000 fork, mentre gli utenti sono quasi 9 milioni.

C'è anche il lato a pagamento. Ollama ospita i modelli più grandi e pesanti sul proprio neocloud, raggiungibile con abbonamenti che vanno dal gratuito fino a 100 dollari al mese. L'utilizzo si misura in GPU-time e non con limiti di token.

Morgan e il cofondatore Michael Chiang hanno già fatto questo giro. Hanno contribuito a costruire Docker Desktop dopo che Docker aveva acquisito la loro startup precedente, Kitematic.

Perché conta

L'AI locale non è più un hobby per chi ama il rumore delle ventole. Quasi 9 milioni di utenti sono un pubblico vero, e gli investitori ci hanno messo soldi veri, scommettendo che gli sviluppatori vogliano far girare i modelli da soli.

La parte interessante è il modello di business. L'uso locale gratuito ti fa entrare dalla porta, i modelli ospitati coprono i casi in cui il laptop alza bandiera bianca. Fatturare a GPU-time invece che a token è un contrasto voluto con il modo in cui conta la maggior parte dei servizi AI ospitati.

Anche il passato in Docker racconta il pitch. L'altra volta il lavoro era rendere facili da spostare le app nel cloud. Stavolta è rendere facile far girare i modelli sulla macchina che hai già sulla scrivania.

I modelli locali si sono appena beccati un voto di fiducia da 65 milioni di dollari.

Una precisazione: un round di finanziamento è una scommessa, non un risultato. Ollama ha utenti e stelle, ma a portare avanti l'azienda dovranno essere i piani a pagamento.

Cosa farne

  • Prova un modello locale.Installa Ollama e fai girare un modello open-weight sulla tua macchina, così vedi fin dove arriva il tuo hardware.
  • Controlla le regole sui dati.Se i prompt contengono qualcosa di sensibile, l'inferenza locale li tiene sul tuo dispositivo: vale la pena parlarne con il tuo team.
  • Confronta i prezzi.La fatturazione a GPU-time si comporta in modo diverso da quella a token, quindi passa il tuo carico di lavoro reale su entrambe prima di impegnarti.
  • Tieni d'occhio il piano gratuito.Oggi è generoso, e un'azienda appena finanziata è il momento classico in cui i piani iniziano a cambiare.

Ciao, sapiens. Il tuo laptop ha avuto una promozione, e non ha nemmeno chiesto l'aumento.