Podcasts · Hipsters Ponto Tech
Interpretabilidade e alinhamento: Entendendo o comportamento das IAs – Hipsters Ponto Tech #525
· 54 min
Episode Interpretabilidade e alinhamento: Entendendo o comportamento das IAs – Hipsters Ponto Tech #525
Hoje o papo é sobre interpretabilidade em modelos de inteligência artificial!
Neste episódio, conversamos sobre como pesquisas recentes, em especial da Anthropic, vêm buscando entender o que acontece por baixo do capô dos grandes modelos de linguagem, além de como eles chegam a determinadas respostas. De alinhamento a alucinações, passando por reasoning, emoções, J-Space, comportamentos emergentes e os desafios de abrir a caixa-preta das grandes IAs, a conversa é bastante abrangente e repleta de boas referências. Vem ver quem participou desse papo:
Paulo Silveira, o host que usa a palavra governança
Fernanda Kipper, Software Engineer & Founder na kipper.dev
Vinny Neves, cohost, dev e professor na Alura
Fabrício Carraro, co-host do IA Sob Controle, Program Manager da Alura, autor de IA e host do podcast Carreira Sem Fronteiras
Links:
Gemini Notebook (ex-NotebookLM)
Podcast Naruhodo!
O Império da IA
IA Sob Controle 213: O Império da IA – Sonhos e Pesadelos na OpenAI de Sam Altman
Logits: o que acontece antes da IA escolher a próxima palavra
Estudo: A global workspace in language models
Estudo: Emotion concepts and their function in a large language model
Estudo: Reasoning models don't always say what they think
Projeto Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data
Estudo: Persona vectors: Monitoring and controlling character traits in language models
Estudo: Teaching Claude why
Estudo: Mapping the mind of a large language model
Estudo: Tracing the thoughts of a large language model
Estudo: Agentic misalignment: How LLMs could be insider threats
Estudo: Alignment faking in large language models
Estudo: Measuring Faithfulness in Chain-of-Thought Reasoning
Estudo: LLM Lies: Hallucinations are not Bugs, but Features as Adversarial Examples
Toda revolução tecnológica começa com quem antecipa o futuro e transforma ideias em soluções de alto impacto. Conheça os cursos da Alura + FIAP Skills & Go: Agentic Engineering, Building AI Products, e AI Data Strategy. Saiba mais sobre o Skills & Go.
Vá para o Vale do Silício com Paulo Silveira, Marcell Almeida, Fabrício Carraro e Marcus Mendes na “Imersão IA Sob Controle e Alura no Vale do Silício“! Vagas limitadas, corra para reservar a sua.
TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões.
#7DaysOfCode: Coloque em prática os seus conhecimentos de programação em desafios diários e gratuitos. Acesse https://7daysofcode.io/
Produção e conteúdo:
Alura Cursos de Tecnologia – https://www.alura.com.br
Edição e sonorização: Rede Gigahertz de Podcasts
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.