ANTENA DO POP - Diariamente o melhor do mundo POP, GEEK e NERD!
Shadow

Marcus Graichen: Ansioso pela IA

Todo mundo está falando sobre IA, mas o que o futuro reserva? Em uma série de entrevistas examinamos perspectivas inesperadas sobre o espaço.

Marcus Graichen, desenvolvedor e arquiteto de produtos, acredita que as ferramentas de IA descentralizadas e de código aberto podem se tornar seriamente competitivas com o ChatGPT e outros modelos comerciais de grande linguagem. Graichen educa um público mundial sobre o uso do Bittensor, uma rede descentralizada de IA que incentiva os participantes a treinar e operar mais de 4.000 modelos de aprendizado de máquina de maneira distribuída.

O Bittensor é como o Bitcoin em muitos aspectos. Possui um token transferível e resistente à censura, TAO, que funciona em um substrato blockchain descentralizado 24 horas por dia, 7 dias por semana, que é auditável e transparente. O Bittensor também é administrado por mineradores, como o Bitcoin, que podem existir globalmente e anonimamente.

Paradigma Bittensor

Sim, é complicado. Mas se você se lembrar do BitTorrent e dos downloads (Graichen explica isso mais tarde), você terá uma ideia do que está acontecendo aqui.

Lutando com o Bittensor

P: Como você se envolveu com o Bittensor?

A: Venho de uma experiência em mídia, cinema e imagem há 25 anos. Ensinei na universidade por cerca de cinco anos, depois desenvolvi web, trabalhando com várias empresas de todo o espectro. Faço isso há cerca de 20 anos. Fiquei interessado em criptomoeda por volta de 2017; isso despertou meu interesse do ponto de vista técnico porque mudou muitos setores nos quais estive envolvido. Ser um desenvolvedor dentro da criptoesfera não me interessava; parecia um pouco sem alma. O GPT começou a ganhar destaque e percebi que era uma ferramenta incrivelmente poderosa.

O Bittensor foi colocado no meu radar como uma oportunidade de investimento. Eu entendi o que eles estavam fazendo e pude ver as falhas do GPT como um modelo de linguagem centralizado, então continuei seguindo. Agora não considero o Bittensor um produto criptográfico. Tem um token porque, para descentralizar o incentivo, é na verdade uma ocasião em que um blockchain se encaixa perfeitamente.

P: E isso levou você a fundar os taostatos?

A: Sim. Nasceu da manutenção de muitas planilhas e da distribuição delas em uma pequena comunidade. Qualquer pessoa que usa Bittensor usa taostats [from the website: Bittensor metagraph statistics, data analysis, price history, staking, resources, rankings and information.] Isso me deu uma posição de destaque como alguém disposto a se comunicar, não com experiência em aprendizado de máquina, nem como um programador Python tradicional, então acho que tinha uma personalidade acessível para explicar as coisas às pessoas.

P: Então veio o BitAPAI?

A: Sim, e esse era um nome terrível porque ninguém conseguia pronunciá-lo. “BitaPAPI?” Então mudamos a marca para Corcel. Estamos tentando construir produtos de forma abrangente e fornecer aos desenvolvedores acesso a eles e construir nossas próprias sub-redes; um pouco de tudo.

P: Alguém possui o Bittensor?

A: Não. É um protocolo multicamadas onde a camada blockchain é apenas a estrutura de incentivo. Ele registra a pontuação atribuída aos mineradores pelos validadores aos quais o incentivo é concedido. Digamos que eu tenha uma sala cheia de 100 professores universitários fornecendo minha inteligência. Eu entro como um validador confiável com um conjunto de perguntas para avaliá-los. As pontuações que dou a eles são publicadas no blockchain, de forma transparente e aberta, e com base nisso eles são recompensados ​​pela rede.

O Bittensor foi criado pelo Fundação Opentensor, uma organização sem fins lucrativos. Não houve arrecadação de fundos. Eles escreveram este protocolo, reuniram este consenso, lançaram um livro branco e espalharam-no pelo mundo. A Fundação está agora a tentar recuar, embora ainda controle as alavancas fundamentais da rede. É essencialmente uma tecnologia de código aberto.

Onde a IA generativa entra em cena

P: Você pode começar a desvendar as diferenças entre algo como ChatGPT e os produtos genAI associados ao Bittensor.

A: O próprio Bittensor não é apenas um modelo de linguagem. Existem duas sub-redes no momento que produzem respostas de texto e funcionam de maneira um pouco diferente. Um deles permite que os mineradores executem qualquer modelo que possam ter em mãos – código aberto, APIs indo direto para o ChatGPT ou qualquer outra coisa disponível comercialmente. Eles poderiam estar executando modelos de linguagem secreta aos quais têm acesso, qualquer coisa que fizessem. Os mineiros são recompensados ​​por respostas corretas, porém diversas. A outra sub-rede baseada em texto, Cortex.t (que é onde o bate-papo de Corcel funciona) concentra-se na velocidade, precisão e não na diversidade, mas na semelhança – se você fizer uma pergunta a todos e a maioria lhe der a mesma resposta, as chances são que essa será a resposta válida.

A maneira simples de explicar isso é: em vez de pedir a uma única fonte que execute uma tarefa – retornar uma resposta ou retornar uma imagem – você está pedindo a uma rede distribuída que todos façam a mesma coisa. E dependendo do modelo de recompensa dessa rede, você decide quem oferece o melhor valor; você está marcando e marcando-os.

Lembra do BitTorrent? Torrents foram um ponto de viragem para downloads porque quando queríamos baixar um filme ou software, em vez de ter que nos conectar a um único site de compartilhamento de arquivos que tinha uma cópia dele e uma única pessoa hospedando-o – e à medida que se tornou popular, ficou muito lento — esse arquivo foi distribuído. Todos que tinham podiam devolvê-lo e aqueles que devolviam mais eram mais valorizados pela rede. O BitTorrent não estava no blockchain, não havia incentivos, mas quando eu era jovem era uma coisa legal e geek ter uma boa proporção no seu BitTorrent LimeWire, o que significava que você dava mais do que recebia. Uma medalha de honra. O que o Bittensor faz é recompensar o desempenho.

Aprofunde-se: Decodificando IA generativa: como construir uma estratégia genAI básica para sua organização de marketing

P: Portanto, em vez de usar um grande modelo de linguagem, ou dois ou três, você terá acesso a vários. E os melhores são recompensados.

A: Correto. Mas o difícil com os modelos de linguagem é que é difícil dizer o que é ou não uma boa resposta. Se eu perguntar nove vezes nove, isso é muito simples; mas se estou recompensando um modelo de linguagem pela diversidade, ele pode decidir ser mais astuto e me contar um pouco sobre a história da multiplicação. Pode não ser isso que você deseja.

P: Conte-nos mais sobre o que você está fazendo com a Corcel.

A: A ideia original era fornecer acesso API a qualquer uma das sub-redes do Bittensor que permitisse isso. As coisas originais que tínhamos eram uma interface de bate-papo com solicitação de texto e um aplicativo de estúdio de imagem. O objetivo era que fossem exemplos do que você poderia fazer, mas as pessoas os consideravam produtos. O aplicativo de bate-papo Corcel é igual, senão melhor, que o GPT para tudo o que você precisa fazer no dia a dia. Estamos prestes a conectar a visão a isso. Você pode mostrar uma foto, dizer cortar o cachorro ou substituí-lo por um gato ou olhar os itens na minha geladeira e me dar uma receita.

O resultado final

P: Por que usar o bate-papo Corcel em vez de GPT?

A: Quando as pessoas me perguntam isso, eu digo: você pagaria US$ 20 por mês pelo GPT? Eles dizem que sim. Eu digo, você não precisa pagar pelo Corcel. É grátis. Atualmente, o incentivo à rede facilita que ela seja gratuita e provavelmente permanecerá gratuita para os consumidores porque a comercialização de aplicativos geradores de receitas irá financiá-la.

P: Então esse é o resultado final? Funciona melhor e é grátis?

A: Não tenho certeza se vamos considerar isso como ponto de venda, mas essa é a verdade. Não vou negar que a GPT é líder do setor no que está fazendo. A verdade é que muitos dos bons modelos de código aberto são treinados em GPT.

Obtenha a MarTech! Diário. Livre. Na sua caixa de entrada.