A IA pode facilitar a vida dos CEOs de tecnologia. E todos os outros?

A CEO da Dazzle AI, Marissa Mayer, tornou-se recentemente a mais recente CEO de tecnologia a enfrentar críticas sobre comentários aparentemente fora de alcance exaltando a utilidade da IA.

No caso de Mayer, isso envolveu pedir ajuda a uma ferramenta de IA com uma descrição de sua filha atribuída à escola. Para Sam Altman, CEO da OpenAI, isso inclui sugerir que os pais criem podcasts personalizados para seus filhos irem para a escola e também declarar que ele não poderia imaginar ser pai sem o ChatGPT. O CEO da Meta, Mark Zuckerberg, até sugeriu que será cada vez mais aceitável atender às suas necessidades sociais e românticas por meio da IA.

Tudo isso levou Amanda Silberling, do TechCrunch, a se perguntar se os executivos de IA estão simplesmente muito distantes para criar produtos para pessoas normais – uma questão crucial com a Anthropic prestes a abrir o capital no momento em que Wall Street começa a perder o apetite por gastos pesados ​​em IA.

No último episódio do podcast Equity, Kirsten Korosec, Sean O’Kane e eu conversamos com Amanda sobre por que os líderes do setor às vezes parecem tão surdos. Kirsten se perguntou se isso é mais um problema de marketing ou de produto.

Resposta de Amanda: “Um pouco dos dois”. Ela também argumentou que a indústria tecnológica está cada vez mais impulsionando um futuro “onde a interação humana básica é cada vez mais otimizada”, acrescentando: “E me chame de velha escola, mas acho que o fato de os humanos serem capazes de conversar uns com os outros é provavelmente um resultado positivo para a sociedade”.

Continue lendo para uma prévia de nossa conversa, editada para maior extensão e clareza.

Antônio Ha: Há muito ceticismo social em relação à IA, este sentimento de que as pessoas que dirigem estas empresas não pensam nos nossos melhores interesses, que estão fora de alcance. E então, você simplesmente pensaria: “Talvez não faça declarações como essa”, porque é claro que as pessoas as verão com muito ceticismo.

Acho que (os CEOs) estão tentando caminhar nesse delicado equilíbrio. Por um lado, há um tremendo incentivo financeiro para que eles defendam que você deve usar essa tecnologia em todos os aspectos de suas vidas. Mas quando você defende esse caso, na verdade (não pinta) um quadro muito atraente. Em alguns casos, é totalmente distópico.

Kirsten Korosec: Anthony, se eles seguissem seu conselho, não teríamos nada para conversar neste programa.

Mas direi o seguinte: existe toda essa ideia de ChatGPT e outras ferramentas de IA facilitando sua vida quando se trata de relacionamentos pessoais. E em muitos desses casos, parece complicar demais o que seria, por exemplo, observar seu filho. Isso pode ser difícil para algumas pessoas, as pessoas que estão construindo esses produtos, e não se aplica necessariamente a todas as outras pessoas no mundo. Pode parecer incrivelmente desconectado quando você vê essas citações.

Para mim, sempre se trata de – com quem eles estão falando? Existem pessoas por aí que podem se identificar? Talvez existam.

Amanda Silberling: Outros casos de uso que vimos pessoas mencionarem são, por exemplo, o CEO da Bumble, Whitney Wolf Heard, fez comentários sobre: ​​”Bem, e se tivéssemos concierges de IA, sua IA namora a IA da outra pessoa. E então, se as IAs tiverem um bom encontro juntos, então eles apresentam as pessoas.”

Ou no artigo do New York Times, Marissa Mayer mencionou: “Bem, e se minha IA pudesse coordenar-se com a IA do meu marido” e coisas assim. E acho que parece que as pessoas estão tentando otimizar demais apenas conversando com outras pessoas.

Já vi isso acontecer na minha geração, onde percebo em mim mesmo que, se estou pedindo comida para viagem, é estranho ligar para um lugar. Estou tão acostumado com: “Bem, obviamente você pode fazer isso on-line e não precisa falar com ninguém. E eu sinto que haverá mais dessas coisas, onde a interação humana básica será cada vez mais otimizada. E me chame de velha escola, mas acho que o fato de os humanos serem capazes de conversar uns com os outros é provavelmente um resultado positivo para a sociedade.

Sean O’Kane: Sim, mas qual é o ROI, Amanda? Quanta receita você pode gerar com uma conversa que alguém está tendo no Meatspace?

Amanda: Essa é a questão, no entanto. Namorar é realmente ineficiente. É uma pena que você tenha que sair em vários encontros com pessoas diferentes. Você pode perder uma noite e pensar: “Bem, isso foi um fracasso”. E assim você pode ver por que as pessoas estão (se perguntando:) “E se você não tivesse que sair para namorar? E se sua IA pudesse sair para namorar por você?” Mas há algo que não é humano ali.

E também, você está terceirizando a decisão de quem você vai namorar para um computador que você confia que conhece você melhor do que você mesmo, o que não acho que seja verdade.

Kirsten: Uma coisa que acho que vale a pena voltar, e já sugeri isso antes: com quem eles estão falando? Quem é o público deles para todas essas otimizações, na sua opinião? É um problema de produto ou de mensagem? Eles estão apenas falando sobre isso da maneira errada e, na verdade, há um valor realmente grande aqui e é simplesmente parece fora de sintonia com a realidade e a humanidade, mas se falassem sobre isso de forma diferente, seria melhor? Ou é realmente um problema de produto e, no que você diz, estamos nos concentrando em otimizar coisas erradas com ferramentas de IA?

Amanda: Acho que é um pouco dos dois, mas acho que o problema de marketing surge quando você tem essas pessoas de alto escalão nessas empresas extremamente valiosas em uma sala, conversando sobre os pontos fracos de suas vidas e (eles se concentram em) fazer reservas para jantares, reservar voos. Todo mundo faz essas coisas, mas não reservo voos uma vez por semana. Não faço reservas para jantar o tempo todo. E quando faço isso, essas não são realmente coisas que considero um desafio específico em minha vida.

Quero dizer, obviamente as pessoas encontram valor em coisas como ChatGPT e Claude, mas acho que o valor que a pessoa média encontra não é necessariamente como reservar um voo para mim.

Antônio: Uma das coisas em que também tenho pensado é que existem empresas como a Uber que, quando foi lançada, tinham como alvo este pioneiro da tecnologia em São Francisco, e lembro-me de estar muito confiante (de que) isto nunca se difundirá de forma mais ampla. Isto é apenas para um público muito restrito de jovens millennials urbanos que têm dinheiro de sobra em carros, e funciona (excepcionalmente) bem em São Francisco.

Para muitas coisas, a indústria tecnológica teve sucesso ao apostar que “as pessoas não nos alcançaram, mas somos a vanguarda e reflectimos como será o consumidor do futuro, a família do futuro”.

E, neste caso, parece que essa aposta ainda não se concretizou – por diversas razões, em parte porque a sociedade em que esta tecnologia está a ser promovida é muito diferente. As pessoas estão começando a dizer: “Não adoro a influência que essa tecnologia está tendo na minha vida. Não adoro que você esteja apresentando isso como algo que deveria otimizar todas as experiências da minha vida. Mas, na verdade, quero viver minha própria vida. Na verdade, quero ser pai dos meus próprios filhos”.

Amanda: Acho que não é coincidência que, ao mesmo tempo, vejamos essa otimização excessiva acontecendo entre as pessoas da área de tecnologia, que haja também um movimento de pessoas que estão voltando a querer usar telefones flip, sobre o qual falei no Equity antes, ou pessoas que estão comprando CDs porque estão cansadas de um algoritmo que lhes diz o que querem ouvir.

E é apenas uma tensão cultural interessante que está acontecendo, onde não encontramos o equilíbrio entre o que a otimização realmente nos ajuda e o que a otimização apenas nos faz sentir que não somos tão humanos quanto gostaríamos de ser.