<\/p>\n\n\n\n
A startup americana Groq criou um chip capaz de executar comandos no ChatGPT em 7% do tempo que leva a nuvem da Microsoft, em uma velocidade 13 vezes mais r\u00e1pida.
Circulam nas redes sociais v\u00eddeos da plataforma da Groq respondendo a pedidos em fra\u00e7\u00e3o de segundo.
A empresa diz que entrega as respostas com a maior velocidade no mundo, e plataformas especializadas em testar performance de modelos de IA endossam.
A Groq produz chips assim como a Nvidia e n\u00e3o \u00e9 o modelo de IA sem modera\u00e7\u00e3o de Elon Musk, chamado de Grok. O nome das duas empresas, que significa conhecimento profundo e intuitivo, tem origem no livro de fic\u00e7\u00e3o cient\u00edfica “Um estranho em uma terra estranha”.
A proposta da startup, entretanto, \u00e9 uma arquitetura diferente das GPUs (unidades de processamento gr\u00e1ficas), da Nvdia, conhecidas por permitir o treinamento de grandes modelos de linguagem como o ChatGPT. A Groq diz produzir LPUs (unidades de processamento de linguagem).
O projeto da empresa diz abandonar tudo o que n\u00e3o \u00e9 necess\u00e1rio para rodar uma plataforma de IA e guardar mais espa\u00e7o para circuitos eletr\u00f4nicos em paralelo, essenciais para fazer os c\u00e1lculos estat\u00edsticos envolvidos na execu\u00e7\u00e3o de um modelo de linguagem.
Dessa maneira, a Groq consegue fazer um modelo de IA responder a uma velocidade de 246 tokens por segundo \u0097tokens s\u00e3o os c\u00f3digos a partir dos quais a tecnologia processa as palavras, cada um representa um peda\u00e7o de palavra. Isso, segundo medi\u00e7\u00f5es da empresa Artificial Analysis, de benchmarking de IA.
O provedor da Microsoft, Azure, por exemplo, faz o ChatGPT funcionar a uma velocidade de 18 tokens por segundo.
Os chips da Groq ainda n\u00e3o podem ser produzidos em escala comercial, como as GPUs da Nvidia. A startup projeta que isso ser\u00e1 poss\u00edvel em 2025.
Conseguir respostas mais r\u00e1pidas de modelo de IA pode abrir espa\u00e7o para novas aplica\u00e7\u00f5es.
Um exemplo disso \u00e9 a velocidade atual do ChatGPT, hoje incompat\u00edvel para um di\u00e1logo humano, o que torna a experi\u00eancia rob\u00f3tica.
Em entrevista \u00e0 CNN Internacional, o chefe-executivo da Groq, Jonathan Ross, mostrou que o chip da sua empresa torna uma conversa casual poss\u00edvel. O chatbot manteve um di\u00e1logo simples com a apresentadora do programa Connect, Becky Anderson.
A Groq, entretanto, n\u00e3o \u00e9 a \u00fanica empresa a trabalhar em chips de infer\u00eancia voltados \u00e0 intelig\u00eancia artificial. Nvidia, Google e Microsoft j\u00e1 divulgaram projetos similares ainda sem acesso completo ao p\u00fablico.
As LPUs da Groq tampouco s\u00e3o t\u00e3o eficientes quanto as GPUs da Nvidia no treinamento de grandes modelos de linguagem. Esse \u00e9 o passo essencial para fazer plataformas como o ChatGPT entregarem respostas adequadas.
Em 8 de fevereiro, o Wall Street Journal noticiou que Sam Altman, o chefe-executivo por tr\u00e1s do ChatGPT, movia esfor\u00e7os para levantar at\u00e9 US$ 7 trilh\u00f5es (R$ 34,6 trilh\u00f5es) para reformular a produ\u00e7\u00e3o de chips pelo mundo. Esse neg\u00f3cio, contudo, ainda se limita a um rumor.<\/p>\n\n\n\n
Por: Pedro S. Teixeira \/ Foto: Tara Winstead\/ Pexels<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" A startup americana Groq criou um chip capaz de executar comandos no ChatGPT em 7%<\/p>\n","protected":false},"author":2,"featured_media":78441,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17],"tags":[],"class_list":["post-78440","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-outras-noticias"],"_links":{"self":[{"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/posts\/78440","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/comments?post=78440"}],"version-history":[{"count":1,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/posts\/78440\/revisions"}],"predecessor-version":[{"id":78442,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/posts\/78440\/revisions\/78442"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/media\/78441"}],"wp:attachment":[{"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/media?parent=78440"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/categories?post=78440"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tvc16.com\/portal\/wp-json\/wp\/v2\/tags?post=78440"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}