O clima de financiamento para startups de chips de IA, uma vez tão ensolarado como um dia de julho, está começando a se nublar à medida que a Nvidia asserta sua dominância.

De acordo com um relatório recente, empresas de chips dos EUA levantaram apenas $881 milhões de janeiro de 2023 a setembro de 2023 — uma queda em relação aos $1,79 bilhão nos três primeiros trimestres de 2022. A empresa de chips de IA Mythic ficou sem dinheiro em 2022 e quase foi forçada a interromper as operações, enquanto a Graphcore, uma rival antes bem capitalizada, agora enfrenta perdas crescentes.

Mas uma startup parece ter encontrado sucesso no ultra-competitivo — e cada vez mais lotado — espaço de chips de IA.

A Hailo, co-fundada em 2017 por Orr Danon e Avi Baum, anteriormente CTO de conectividade sem fio na empresa de microprocessadores Texas Instruments, projeta chips especializados para executar cargas de trabalho de IA em dispositivos de ponta. Os chips da Hailo executam tarefas de IA com menor uso de memória e consumo de energia do que um processador típico, tornando-os um forte candidato para dispositivos compactos, offline e alimentados por bateria, como carros, câmeras inteligentes e robótica.

“Co-fundei a Hailo com a missão de tornar a IA de alta performance disponível em escala fora do âmbito dos data centers”, disse Danon ao TechCrunch. “Nossos processadores são usados para tarefas como detecção de objetos, segmentação semântica e assim por diante, bem como para aprimoramento de imagem e vídeo com IA. Mais recentemente, eles têm sido usados para executar grandes modelos de linguagem (LLMs) em dispositivos de ponta, incluindo computadores pessoais, unidades de controle eletrônico de entretenimento e muito mais.”

Muitas startups de chips de IA ainda não conseguiram fechar um grande contrato, quanto mais dezenas ou centenas. Mas a Hailo tem mais de 300 clientes hoje, afirma Danon, em indústrias como automotiva, segurança, varejo, automação industrial, dispositivos médicos e defesa.

Fazendo uma aposta no futuro da Hailo, um grupo de investidores financeiros, incluindo o empresário israelense Alfred Akirov, o importador automotivo Delek Motors e a plataforma de VC OurCrowd, investiram $120 milhões na Hailo nesta semana, uma extensão da Série C da empresa. Danon disse que o novo capital permitirá à Hailo “aproveitar todas as oportunidades em andamento” enquanto “prepara o cenário para o crescimento de longo prazo.”

“Estamos estrategicamente posicionados para levar a IA para dispositivos de ponta de maneiras que aumentarão significativamente o alcance e o impacto dessa notável nova tecnologia”, disse Danon.

Agora, você deve estar se perguntando, uma startup como a Hailo realmente tem chances contra gigantes dos chips como Nvidia e, em menor escala, Arm, Intel e AMD? Um especialista, Christos Kozyrakis, professor de engenharia elétrica e ciência da computação de Stanford, acredita que sim — ele acredita que chips aceleradores como os da Hailo se tornarão “absolutamente necessários” à medida que a IA se prolifera.

“A diferença de eficiência energética entre CPUs e aceleradores é grande demais para ser ignorada”, disse Kozyrakis ao TechCrunch. “Você usa os aceleradores pela eficiência em tarefas-chave (por exemplo, IA) e tem um ou dois processadores do lado para programabilidade.”

Kozyrakis vê a longevidade apresentando um desafio para a liderança da Hailo — por exemplo, se as arquiteturas de modelos de IA para as quais seus chips são projetados para rodar eficientemente caírem em desuso. O suporte de software também pode ser um problema, diz Kozyrakis, se uma massa crítica de desenvolvedores não estiver disposta a aprender a usar as ferramentas construídas em torno dos chips da Hailo.

“A maioria dos desafios quando se trata de chips personalizados estão no ecossistema de software”, disse Kozyrakis. “Aqui é onde a Nvidia, por exemplo, tem uma enorme vantagem sobre outras empresas em IA, já que eles têm investido em software para suas arquiteturas por mais de 15 anos.”

Mas, com $340 milhões no banco e uma equipe com cerca de 250 pessoas, Danon está confiante quanto ao caminho da Hailo para frente — pelo menos a curto prazo. Ele vê a tecnologia da startup abordando muitos dos desafios que as empresas enfrentam com a inferência de IA baseada em nuvem, especialmente a latência, o custo e a escalabilidade.

“Os modelos tradicionais de IA dependem da infraestrutura baseada na nuvem, muitas vezes sofrendo com problemas de latência e outros desafios”, disse Danon. “Eles são incapazes de fornecer insights e alertas em tempo real, e sua dependência de redes ameaça a confiabilidade e a integração com a nuvem, o que gera preocupações com a privacidade dos dados. A Hailo está enfrentando esses desafios ao oferecer soluções que operam independentemente da nuvem, tornando-os capazes de lidar com quantidades muito maiores de processamento de IA.”

Curioso pela perspectiva de Danon, perguntei sobre a IA generativa e sua grande dependência da nuvem e de data centers remotos. Certamente, a Hailo vê o modelo atual centrado na nuvem (por exemplo, o modus operandi da OpenAI) como uma ameaça existencial?

Danon disse que, pelo contrário, a IA generativa está impulsionando uma nova demanda pelo hardware da Hailo.

“Nos últimos anos, vimos um aumento na demanda por aplicações de IA de ponta na maioria das indústrias, desde segurança de aeroportos até embalagens de alimentos”, disse ele. “O novo aumento na IA generativa está impulsionando ainda mais essa demanda, pois estamos vendo pedidos para processar LLMs localmente por clientes não apenas nas indústrias de computação e automotiva, mas também em automação industrial, segurança e outras.”

E aí está.