Falei com @romanyam, o principal especialista em segurança de IA do mundo.
Ele literalmente cunhou o termo “segurança de IA” há cerca de 15 anos.
Roman explicou se a AGI já está aqui, qual é a ameaça real da IA para a humanidade, quantos empregos poderiam ser perdidos, por que ele é otimista com o bitcoin, como a IA física & a robótica provavelmente vão se desenrolar e se os laboratórios do modelo de fronteira realmente se importam com a segurança da IA.
Esta foi uma conversa profunda com alguém que todo mundo deveria conhecer.
YouTube: https://youtu.be/HSVhShdcriU?is=1m3YW1RNuE7JzRQl
Spotify: https://open.spotify.com/episode/37I1VnpNBTBGiebqXLek3H?si=eVFoSA6gTXyg4pzHFWbNvQ&utm_source=copy-link
Apple: https://podcasts.apple.com/us/podcast/the-pomp-podcast/id1434060078?i=1000785613978
MARCADORES (TIMESTAMPS):
0:00 - Introdução
0:50 - Nós já alcançamos a AGI?
2:51 - Por que não podemos controlar a superinteligência
5:14 - Uma proibição global de superinteligência poderia realmente funcionar?
8:45 - Os laboratórios de IA realmente estão levando a segurança a sério?
15:52 - Perda em massa de empregos & a economia da AGI
22:03 - A ligação surpreendente entre IA & bitcoin
29:07 - Um mundo de abundância de IA, & por que a escassez vence
31:45 - Marcas d’água de IA, & a morte da confiança
35:33 - Prós & Contras do mundo da IA física
38:40 - O que seria necessário para confiar em um robô humanoide?
39:50 - Interfaces cérebro-computador: uma boa ideia?
42:25 - Ascensão & riscos de deepfakes
49:40 - Controlar a IA: Governos vs empresas privadas
54:07 - Código aberto vs fechado, & a corrida de IA entre EUA e China
57:34- O bitcoin é o único projeto de cripto construído para durar?
1:01:40 - Limitações da IA física: gargalos & escassez
1:03:50 - Impacto da saúde com IA
1:06:09 - O que seria necessário para declarar de fato a AGI?
1:09:35 - Como o público pode ajudar com a segurança da IA
Ele literalmente cunhou o termo “segurança de IA” há cerca de 15 anos.
Roman explicou se a AGI já está aqui, qual é a ameaça real da IA para a humanidade, quantos empregos poderiam ser perdidos, por que ele é otimista com o bitcoin, como a IA física & a robótica provavelmente vão se desenrolar e se os laboratórios do modelo de fronteira realmente se importam com a segurança da IA.
Esta foi uma conversa profunda com alguém que todo mundo deveria conhecer.
YouTube: https://youtu.be/HSVhShdcriU?is=1m3YW1RNuE7JzRQl
Spotify: https://open.spotify.com/episode/37I1VnpNBTBGiebqXLek3H?si=eVFoSA6gTXyg4pzHFWbNvQ&utm_source=copy-link
Apple: https://podcasts.apple.com/us/podcast/the-pomp-podcast/id1434060078?i=1000785613978
MARCADORES (TIMESTAMPS):
0:00 - Introdução
0:50 - Nós já alcançamos a AGI?
2:51 - Por que não podemos controlar a superinteligência
5:14 - Uma proibição global de superinteligência poderia realmente funcionar?
8:45 - Os laboratórios de IA realmente estão levando a segurança a sério?
15:52 - Perda em massa de empregos & a economia da AGI
22:03 - A ligação surpreendente entre IA & bitcoin
29:07 - Um mundo de abundância de IA, & por que a escassez vence
31:45 - Marcas d’água de IA, & a morte da confiança
35:33 - Prós & Contras do mundo da IA física
38:40 - O que seria necessário para confiar em um robô humanoide?
39:50 - Interfaces cérebro-computador: uma boa ideia?
42:25 - Ascensão & riscos de deepfakes
49:40 - Controlar a IA: Governos vs empresas privadas
54:07 - Código aberto vs fechado, & a corrida de IA entre EUA e China
57:34- O bitcoin é o único projeto de cripto construído para durar?
1:01:40 - Limitações da IA física: gargalos & escassez
1:03:50 - Impacto da saúde com IA
1:06:09 - O que seria necessário para declarar de fato a AGI?
1:09:35 - Como o público pode ajudar com a segurança da IA