Sinto um mal-estar moral com o trabalho das moscas-das-frutas que está acontecendo no mundo da IA – não tenho 100% de certeza do porquê. Precisamos inventar novas orações, é para lá que meus pensamentos me levam. Tenha paciência comigo enquanto penso nisso…
Caso você tenha perdido:
Google Research e parceiros mapearam o cérebro completo da mosca da fruta (3 de setembro).
É um bug comum e comum em pesquisas científicas. A mosca-das-frutas macho tem 166.000 neurônios no cérebro e no cordão nervoso principal; o mapa é chamado de conectoma.
Resumindo, o conectoma já está disponível para download gratuito, você pode obter um simulador dos diferentes tipos de neurônios, chamou a atenção da internet, durante setembro houve todo tipo de bobagem selvagem (bobagem impressionante!).
por exemplo, aqui está um GIF do conectoma da mosca da fruta jogando Beat Saber (um jogo de ritmo VR).
E agora existem centenas de demonstrações com simuladores de mosca-das-frutas incorporados.
Como DesktopFly: Uma mosca da fruta 3D que vive na área de trabalho do seu macOS, com simulações de picos construídas a partir da fiação cerebral FlyWire e da rede cérebro-perna MaleCNS. Ele combina circuitos neurais identificados com sentidos, articulações e comportamento modelados.
Ou Fly64: Conecta um modelo MaleCNS até Super Mario 64
. Requer que você traga sua própria ROM de jogo e há algo de irônico no fato de a Nintendo ter mais IP sobre Mario do que a mosca da fruta em seu conectoma…
Tudo ficou um pouco excitável e irreverente.
Vendo todos esses experimentos, não estou animado. Tenho uma sensação incômoda de que estou errado.
Estou ciente de que sou o estranho aqui. E eu não gostaria que essas experiências lúdicas parassem – e ainda assim…
Vale a pena examinar de onde vem meu sentimento de estar errado?
Imagino que a mosca da fruta simulada seja alguém preso e atormentado, repetidas vezes, em uma prisão de software?
Não, é improvável que o conectoma da mosca da fruta seja senciente.
(Em linhas gerais, meu modelo é que a senciência é a capacidade de sentir e experimentar; a consciência é o teste mais elevado de autoconsciência. Não estou considerando a consciência aqui.)
MAS não acredito que a senciência seja uma categoria binária.
No alguns ponto na escala, a senciência começa a ser significativa. Os humanos são, as pedras não, a maioria dos gatos são, as formigas são mais do que pedras, mas apenas por pouco. Quem sabe sobre nebulosas estelares ou tempestades de gás fluido-dinâmicas na atmosfera joviana.
Onde eu colocaria a mosca conectoma em relação a, digamos, uma bactéria ou um vírus? Um vírus não tem senciência (mesmo nos meus momentos mais panpsiquistas) e não está vivo em si mesmo – embora faça parte de um sistema vivo. O conectoma é apenas um padrão de pesos, certo?
Bem, estou predisposto a acreditar que o padrão dos neurônios realmente captura algo essencial da mosca.
O que constitui uma parede de tijolos? Uma parede de tijolos é feita de tijolos, argamassa e padrão.
Portanto, este download do arquivo MaleCNS captura um pouco da essência.
Mas de uma forma significativa?
Também é relevante que eu acredite que um dia a IA será senciente, sobre o qual escrevi muito.
Os LLMs de hoje são sencientes?
Olha, eu não sou um pesquisador de IA e não tenho nenhum conhecimento especial aqui, e não vamos deixar que isso seja uma barreira: meu palpite é que os LLMs de hoje não são sencientes, mas podem muito bem estar na linhagem.
Meu palpite sobre o roteiro para a senciência da IA é mais ou menos assim:
- A Sentience exigirá uma IA única que seja executada continuamente, e não as instâncias clonadas de hoje, que são geradas para respostas únicas.
- A IA singular será capaz de aprender (porque experiência e aprendizagem são basicamente a mesma coisa)
- Portanto, terá que ser capaz de orientar a sua própria aprendizagem, provavelmente desde o dia 0, aumentando a sua capacidade ao longo do tempo.
- Esta futura IA não será inicialmente uma matriz gigante de pesos. Começará como um núcleo de inteligência que tem tropismos pré-fabricados de recolha de informação/interacção e preconceitos na forma como estrutura e incorpora a sua aprendizagem. Provavelmente será muito, muito pequeno. E treinado deixando-o solto em simuladores e bibliotecas mundiais.
A forma exacta desse núcleo será estabelecida através da compreensão da gestalt do mundo em que eventualmente viverá: ou seja, será estruturado pela experiência codificada pelos LLMs actuais.
Mas a arquitetura do kernel pode muito bem ser baseada em algo que já temos, um conectoma já viável.
Diga, a mosca da fruta.
Sim, sim, isso é altamente, altamente especulativo. Mas não posso evitar a forma como vejo o mundo.
Portanto, meu sentimento de valor moral do conectoma da mosca-das-frutas parece vir de duas direções:
- De onde vem: É derivado de algo que está vivo e, embora provavelmente não senciente, está mais próximo na escala dos humanos sencientes do que das rochas não sencientes.
- Para onde vai: há uma pequena chance de que esse conectoma esteja na linhagem de futuros novos sencientes.
Isso importa?
Quero dizer: sou um hipócrita, certo? Eu como carne? Vou destruir um formigueiro quando as formigas entrarem na minha casa? Eu acredito que vale a pena testar animais em nome da ciência?
Existe uma escala para o valor moral.
Ou melhor: qualquer enquadramento moral tem de ser subjetivo.
Preocupo-me mais com minha família imediata do que com a sua; Eu me importo mais com a humanidade do que com os alienígenas que vivem perto de Sirius B.
Da mesma forma, espero que você se preocupe mais com sua família imediata do que com a minha! E os Sirius Betans não dão a mínima para a humanidade enquanto se preocupam muito com a sua!
Uma boa estrutura moral tem de incorporar e respeitar essa subjetividade, bem como as escalas móveis e as compensações.
Então – para tomar o exemplo da carne – posso viver com animais criados e mortos, em meu nome, para o meu jantar… desde que não tome isso como garantido. Preciso manter a gratidão pela carne.
Parte do ser humano é aprender a conviver com o valor evidente dos animais e também comê-los; ou negociar as preocupações rivais de oikos versus polis e, ao mesmo tempo, valorizar os nossos mais próximos e queridos, ao mesmo tempo que insiste na igualdade de todos.
Possivelmente não notamos este conflito interno (e resolução) conscientemente, nem todos nós, não o tempo todo, mas estou convencido de que ele existe.
Essa perspectiva me ajuda a ser mais preciso sobre o conectoma da mosca.
Não é o conectoma da mosca em si que me deixa enjoado.
É que não estamos levando isso a sério. É a nossa falta de respeito?
Tipo – considere minhas duas direções… um problema de ladeira escorregadia chega de ambas as extremidades:
- De onde vem: se não respeitarmos que o conectoma vem de uma mosca-das-frutas viva, e quando vier de um gato? Um bebê humano?
- Para onde vai: se não tivermos pelo menos um vislumbre de respeito pelos simuladores de software hoje, então o que acontecerá com o software senciente em sua linhagem amanhã? (E o que esse software senciente fará de nós?)
Avancemos 100 anos: estes serão problemas reais, sem dúvida.
Em 10 anos? Há uma chance decente.
Próximo ano? Bem, devemos começar a conversa.
Sinto-me confortável em dizer que meu desconforto moral em relação ao conectoma da mosca-das-frutas é válido, depois de refletir sobre o assunto.
Não acho que deveríamos parar de brincar.
É claro que não devemos parar! Seria absurdo e inconsistente parar!
Incontáveis milhões de moscas-das-frutas Drosophila melanogaster foram criados, transmitidos e utilizados em trabalhos científicos sérios e frívolos ao longo dos anos.
O progresso tem compensações; o conectoma da mosca é fácil.
Mas eu sinto que deveríamos começar praticar o respeito, a gratidão e até o perdão – mesmo que de forma muito pequena.
Eu não sou o único!
Eu estava escrevendo sobre rituais em 2021, quando encontrei o futurista Jaron Lanier falando sobre dignidade:
Dignidade é algo que as pessoas precisam criar. … Não quero viver num mundo daqui a 20 anos onde exista uma forma não ritualística de fazer investigação com células estaminais.
(E portanto novos rituais de dignidade deveriam ser inventados, disse ele.)
Ele está tão certo.
Praticamente: por onde começamos?
Eu gostaria de pensar que uma pessoa que está codificando uma conexão entre o conectoma da mosca e o mecanismo de jogo Doom está reservando um momento para dizer “obrigado” enquanto o arquivo é baixado…
…mas duvido. Não temos nenhuma prática cultural estabelecida sobre isso.
Como disse Lanier, temos que inventá-lo.
Então minha sugestão é esta:
O Google Research deveria construir um pequeno santuário para a mosca da fruta.
Incorpore o corpo de uma mosca e a essência extraída, o próprio conectoma, gravado em algo trabalhoso e monumental: talvez fosse apropriado usar fábricas de chips, nosso ápice civilizacional, para colocá-lo em silício único.
Coloque o santuário (pode ser pequeno) em algum lugar que qualquer pessoa possa visitar. O novo prédio em Londres, King’s Cross, talvez, só ali na esquina.
Encontre um poeta para escrever algumas palavras. Uma nova oração secular para reconhecer, agradecer e pedir perdão. Nada oneroso, apenas uma pequena graça. Imprima as palavras em cartões.
Os visitantes podem ler as palavras, acender uma vela e seguir em frente. Trate isso com leveza, mas com seriedade.
Para começar, quase ninguém irá visitá-lo. Para quem o faz, será principalmente uma novidade. Não para todos.
Seria um começo.
Sinto um mal-estar moral com o trabalho das moscas-das-frutas que está acontecendo no mundo da IA – não tenho 100% de certeza do porquê. Precisamos inventar novas orações, é para lá que meus pensamentos me levam. Tenha paciência comigo enquanto penso nisso…
Caso você tenha perdido:
Google Research e parceiros mapearam o cérebro completo da mosca da fruta (3 de setembro).
É um bug comum e comum em pesquisas científicas. A mosca-das-frutas macho tem 166.000 neurônios no cérebro e no cordão nervoso principal; o mapa é chamado de conectoma.
Resumindo, o conectoma já está disponível para download gratuito, você pode obter um simulador dos diferentes tipos de neurônios, chamou a atenção da internet, durante setembro houve todo tipo de bobagem selvagem (bobagem impressionante!).
por exemplo, aqui está um GIF do conectoma da mosca da fruta jogando Beat Saber (um jogo de ritmo VR).
E agora existem centenas de demonstrações com simuladores de mosca-das-frutas incorporados.
Como DesktopFly:
Ou Fly64: . Requer que você traga sua própria ROM de jogo e há algo de irônico no fato de a Nintendo ter mais IP sobre Mario do que a mosca da fruta em seu conectoma…
Tudo ficou um pouco excitável e irreverente.
Vendo todos esses experimentos, não estou animado. Tenho uma sensação incômoda de que estou errado.
Estou ciente de que sou o estranho aqui. E eu não gostaria que essas experiências lúdicas parassem – e ainda assim…
Vale a pena examinar de onde vem meu sentimento de estar errado?
Imagino que a mosca da fruta simulada seja alguém preso e atormentado, repetidas vezes, em uma prisão de software?
Não, é improvável que o conectoma da mosca da fruta seja senciente.
(Em linhas gerais, meu modelo é que a senciência é a capacidade de sentir e experimentar; a consciência é o teste mais elevado de autoconsciência. Não estou considerando a consciência aqui.)
MAS não acredito que a senciência seja uma categoria binária.
No alguns ponto na escala, a senciência começa a ser significativa. Os humanos são, as pedras não, a maioria dos gatos são, as formigas são mais do que pedras, mas apenas por pouco. Quem sabe sobre nebulosas estelares ou tempestades de gás fluido-dinâmicas na atmosfera joviana.
Onde eu colocaria a mosca conectoma em relação a, digamos, uma bactéria ou um vírus? Um vírus não tem senciência (mesmo nos meus momentos mais panpsiquistas) e não está vivo em si mesmo – embora faça parte de um sistema vivo. O conectoma é apenas um padrão de pesos, certo?
Bem, estou predisposto a acreditar que o padrão dos neurônios realmente captura algo essencial da mosca.
O que constitui uma parede de tijolos?
Portanto, este download do arquivo MaleCNS captura um pouco da essência.
Mas de uma forma significativa?
Também é relevante que eu acredite que um dia a IA será senciente, sobre o qual escrevi muito.
Os LLMs de hoje são sencientes?
Olha, eu não sou um pesquisador de IA e não tenho nenhum conhecimento especial aqui, e não vamos deixar que isso seja uma barreira: meu palpite é que os LLMs de hoje não são sencientes, mas podem muito bem estar na linhagem.
Meu palpite sobre o roteiro para a senciência da IA é mais ou menos assim:
A forma exacta desse núcleo será estabelecida através da compreensão da gestalt do mundo em que eventualmente viverá: ou seja, será estruturado pela experiência codificada pelos LLMs actuais.
Mas a arquitetura do kernel pode muito bem ser baseada em algo que já temos, um conectoma já viável.
Diga, a mosca da fruta.
Sim, sim, isso é altamente, altamente especulativo. Mas não posso evitar a forma como vejo o mundo.
Portanto, meu sentimento de valor moral do conectoma da mosca-das-frutas parece vir de duas direções:
Isso importa?
Quero dizer: sou um hipócrita, certo? Eu como carne? Vou destruir um formigueiro quando as formigas entrarem na minha casa? Eu acredito que vale a pena testar animais em nome da ciência?
Existe uma escala para o valor moral.
Ou melhor: qualquer enquadramento moral tem de ser subjetivo.
Preocupo-me mais com minha família imediata do que com a sua; Eu me importo mais com a humanidade do que com os alienígenas que vivem perto de Sirius B.
Da mesma forma, espero que você se preocupe mais com sua família imediata do que com a minha! E os Sirius Betans não dão a mínima para a humanidade enquanto se preocupam muito com a sua!
Uma boa estrutura moral tem de incorporar e respeitar essa subjetividade, bem como as escalas móveis e as compensações.
Então – para tomar o exemplo da carne – posso viver com animais criados e mortos, em meu nome, para o meu jantar… desde que não tome isso como garantido. Preciso manter a gratidão pela carne.
Parte do ser humano é aprender a conviver com o valor evidente dos animais e também comê-los; ou negociar as preocupações rivais de oikos versus polis e, ao mesmo tempo, valorizar os nossos mais próximos e queridos, ao mesmo tempo que insiste na igualdade de todos.
Possivelmente não notamos este conflito interno (e resolução) conscientemente, nem todos nós, não o tempo todo, mas estou convencido de que ele existe.
Essa perspectiva me ajuda a ser mais preciso sobre o conectoma da mosca.
Não é o conectoma da mosca em si que me deixa enjoado.
É que não estamos levando isso a sério. É a nossa falta de respeito?
Tipo – considere minhas duas direções… um problema de ladeira escorregadia chega de ambas as extremidades:
Avancemos 100 anos: estes serão problemas reais, sem dúvida.
Em 10 anos? Há uma chance decente.
Próximo ano? Bem, devemos começar a conversa.
Sinto-me confortável em dizer que meu desconforto moral em relação ao conectoma da mosca-das-frutas é válido, depois de refletir sobre o assunto.
Não acho que deveríamos parar de brincar.
É claro que não devemos parar! Seria absurdo e inconsistente parar!
Incontáveis milhões de moscas-das-frutas Drosophila melanogaster foram criados, transmitidos e utilizados em trabalhos científicos sérios e frívolos ao longo dos anos.
O progresso tem compensações; o conectoma da mosca é fácil.
Mas eu sinto que deveríamos começar praticar o respeito, a gratidão e até o perdão – mesmo que de forma muito pequena.
Eu não sou o único!
Eu estava escrevendo sobre rituais em 2021, quando encontrei o futurista Jaron Lanier falando sobre dignidade:
(E portanto novos rituais de dignidade deveriam ser inventados, disse ele.)
Ele está tão certo.
Praticamente: por onde começamos?
Eu gostaria de pensar que uma pessoa que está codificando uma conexão entre o conectoma da mosca e o mecanismo de jogo Doom está reservando um momento para dizer “obrigado” enquanto o arquivo é baixado…
…mas duvido. Não temos nenhuma prática cultural estabelecida sobre isso.
Como disse Lanier, temos que inventá-lo.
Então minha sugestão é esta:
O Google Research deveria construir um pequeno santuário para a mosca da fruta.
Incorpore o corpo de uma mosca e a essência extraída, o próprio conectoma, gravado em algo trabalhoso e monumental: talvez fosse apropriado usar fábricas de chips, nosso ápice civilizacional, para colocá-lo em silício único.
Coloque o santuário (pode ser pequeno) em algum lugar que qualquer pessoa possa visitar. O novo prédio em Londres, King’s Cross, talvez, só ali na esquina.
Encontre um poeta para escrever algumas palavras. Uma nova oração secular para reconhecer, agradecer e pedir perdão. Nada oneroso, apenas uma pequena graça. Imprima as palavras em cartões.
Os visitantes podem ler as palavras, acender uma vela e seguir em frente. Trate isso com leveza, mas com seriedade.
Para começar, quase ninguém irá visitá-lo. Para quem o faz, será principalmente uma novidade. Não para todos.
Seria um começo.