Podcasts · Risorse Artificiali AI Engineering in italiano

Inferenza europea e zero log | Eugenio Petullà

· 1 h 40 min

Episode Inferenza europea e zero log | Eugenio Petullà

0:00 1:39:49

Inferenza LLM in Europa, zero data retention e open weight: Eugenio Petullà (Regolo.ai) su dove finiscono i tuoi dati quando interroghi un modello di frontiera o open weight.

Parliamo con Eugenio Petullà, Chief AI Alchemist di Regolo.ai, provider europeo di inferenza hostato in Italia nel gruppo DHH/Seeweb. Regolo serve modelli open weight a consumo tramite API OpenAI-compatible, con zero data retention: niente log, niente training sui dati dei clienti, tutto dentro un datacenter italiano GDPR-compliant.

Nell'intervista: la geopolitica delle GPU e perché l'Europa è schiacciata tra USA e Cina (TSMC, ASML, il collo di bottiglia di Taiwan), il routing dei modelli con brick e il principio "il modello giusto per il task giusto" (non Fable per tradurre un'email), la libreria ai-footprint per misurare CO2 e Watt di ogni chiamata, il sospetto che OpenAI e Anthropic logghino i tuoi prompt, e perché l'Europa ha perso il treno del training ma può ancora vincere su inferenza e robotica.

🎓 Capitoli

0:00:00 Inferenza europea e i tuoi dati

0:06:07 Red Hat, GNOME e l'amore per Linux

0:11:00 Professional open source: Mozilla e WordPress

0:15:52 Regolo, provider europeo di inferenza

0:20:47 GLM, Qwen, Gemma e i small model

0:27:56 I tre business model di Regolo

0:33:45 Geopolitica GPU: Europa tra USA e Cina

0:43:52 Server farm, memoria e impatto ambientale

0:56:00 Modelli di frontiera, Mistral e gap europeo

1:03:39 Routing e brick: il modello giusto

1:12:31 Zero data retention: i tuoi dati su OpenAI

1:18:30 Colonia tecnologica e cloud sovrano

1:24:59 Il futuro degli open weight

1:32:26 AI Act, il treno perso e robotica

🔗 Ascolta sull'altra piattaforma

Spotify: https://open.spotify.com/episode/4mlKC6SrTiixqdNCVjD75T?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop

Sito: https://risorseartificiali.com/?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop

👥 Eugenio Petullà

LinkedIn: https://www.linkedin.com/in/eugeniopetulla

Regolo.ai: https://regolo.ai

Se ti piace il podcast, iscriviti al canale. Si parla di AI Engineering in italiano, tra pari tecnici.

The episode on the publisher’s site (opens in a new tab)

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.