PromptLayer está desenvolvendo ferramentas para colocar os não-técnicos no comando do desenvolvimento de aplicativos de IA.

A explosão da GenAI nos últimos anos desencadeou uma onda de startups prometendo apoiar o processo de engenharia de prompts — ou seja, elaborar instruções para direcionar com precisão um chatbot de IA a fornecer resultados úteis. Pense em ferramentas como o ChatGPT da OpenAI e o Gemini do Google, que apresentam ao usuário um campo em branco para sua consulta — onde o que você pergunta e também como você pergunta pode levar a resultados muito diferentes.

A PromptLayer, com sede em Nova York, entrou nesse espaço cedo, lançando uma ferramenta para ajudar desenvolvedores de aplicativos a gerenciar o processo de prompting há cerca de dois anos. Seus fundadores haviam experimentado chatbots de IA e queriam algo para acompanhar seus próprios prompting, relata o co-fundador Jared Zoneraich (um ex-participante do hackathon TechCrunch Disrupt, na foto acima à esquerda com o co-fundador Jonathan Pedoeem).

Por um impulso, eles lançaram seu MVP (no X) e a ferramenta que construíram para si próprios fez sucesso, então continuaram a desenvolver. Desde então, evoluiu para um produto de gerenciamento de prompts que estão vendendo para empresas de terceiros para apoiar o desenvolvimento de aplicativos de IA, sugerindo que os fundadores acertaram no timing para atender ao crescente interesse das empresas sobre como modelos de linguagem de grande porte (LLMs) podem ajudar a aumentar sua produtividade.

Embora o espaço de suporte a prompts tenha se aquecido consideravelmente nos anos desde que a PromptLayer lançou seu MVP, eles expandiram para uma plataforma de gerenciamento de prompts totalmente funcional — oferecendo uma interface visual repleta de ferramentas para gerenciar e monitorar o processo de tentar extrair o melhor valor dos LLMs.

Agora, eles fecharam uma rodada de sementes de $4,8 milhões para continuar a construir um impulso para sua abordagem. A rodada é liderada por Ivan Bercovich (ScOp Venture Capital), com a participação de Peter Boyce II (Stellation Capital) novamente (ele também financiou sua pré-seed), além de vários anjos e fundadores e operadores de IA — incluindo Michael Akilian, Joshua Browder, Byrne Hobart, Romain Huet, Josh Kamdjou, Logan Kilpatrick, Ben Lang, Alex Oppenheimer, Gokul Rajaram, Gabriel Stengel e Luis Voloch.

Mantendo controle sobre os prompts

Zoneraich afirma que o núcleo do produto da PromptLayer é um “registro de prompts.” “É um CMS, é controle de versão para prompts,” ele explica. “Você tem um prompt, cria uma nova versão, pode ver porque as versões são diferentes, e então pode escolher qual versão é a sua versão de produção … Isso é o centro do nosso produto — e tudo se expande a partir disso e tenta tornar isso mais útil.”

“Por exemplo, testes em cima disso, ou registros de quando você usou qual prompt, ou testes A/B entre os prompts, e tipo, insights mais profundos sobre qual versão é a melhor.”

A plataforma é projetada para suportar clientes na testagem e avaliação de diferentes prompts para seu caso de uso específico — digamos, um aplicativo de coaching de IA ou um chatbot para suporte ao cliente — permitindo que eles testem como diferentes versões de prompts se comportam em uma variedade de LLMs; e, de forma mais geral, obter uma melhor compreensão deste novo mundo de desenvolvimento de aplicativos onde a linguagem necessária para comandar tecnologia de ponta é, na maior parte, apenas palavras (em vez de código).

Incomum para um fabricante de ferramentas de desenvolvimento, a PromptLayer está deliberadamente focada em usuários não técnicos.

Zoneraich afirma que eles fizeram uma escolha consciente de construir um negócio de gerenciamento de prompts voltado para o que ele chama de “especialistas de domínio” — ou seja, profissionais com expertise chave em suas áreas, seja educação, direito, saúde, e assim por diante — depois que descobriram que os primeiros usuários estavam trazendo não programadores para a festa do desenvolvimento de aplicativos.

“Acreditamos que você não pode construir IA na saúde sem médicos, IA jurídica sem advogados, ou IA de terapia sem terapeutas,” a startup escreve em uma declaração de missão que diz que sua ferramenta de software “permite que especialistas de domínio e engenheiros colaborem usando nosso CMS visual de prompts.”

Zoneraich vai ainda mais longe — afirmando que a plataforma coloca os especialistas de domínio “no banco do motorista” do desenvolvimento de aplicativos.

“Isso se torna algo que eles precisam, de certa forma, ser treinados — mas não é um grande salto,” ele sugere. “Não é como se eles tivessem que aprender a programar. Então é algo que a pessoa média poderia aprender.”

Tomando uma abordagem diferente

Dado como a GenAI abriu a caixa de ferramentas de IA — graças, em grande parte, à decisão da OpenAI de embutir IA generativa em uma interface de linguagem natural acessível — a escolha de focar em ferramentas para usuários não técnicos faz todo sentido. No entanto, Zoneraich acredita que isso os diferencia da maioria dos players no espaço.

“Estamos adotando uma abordagem muito diferente da de todos os outros,” ele sugere durante uma chamada com a TechCrunch. “Esse conceito de especialistas de domínio liderando a carga — basicamente ninguém está fazendo isso. Acho que aprendemos com nossos clientes. Mas no Vale do Silício, é meio menos atraente construir para o não-técnico, ao invés do técnico.”

“Não acho que precisamos convencer ninguém de que este é o caminho certo a seguir. Acho que o mercado fará essa conversa por nós,” ele continua, argumentando: “Não acho que você pode vencer em muitos desses domínios sem empregar especialistas de domínio [para fazer engenharia de prompts].

“Simplesmente não há engenheiros suficientes de qualquer forma, mesmo que quiséssemos contratar tudo com engenheiros.”

No lado das ferramentas de IA focadas tecnicamente, Zoneraich menciona como exemplos o Zapier — além de apontar para o que ele chama de empresas de “operações de LLM” como a Braintrust e LangChain — quando discutimos o cenário competitivo. “Mas eu acho que todo mundo está super ajustando isso [ferramentas para usuários técnicos],” ele afirma, dizendo que sua convicção é que, para a maioria das empresas que buscam aproveitar o poder dos LLMs, os relevantes especialistas de domínio para o aplicativo que eles desejam desenvolver não serão funcionários técnicos.

Ele também acredita que as habilidades necessárias para ser um bom engenheiro de prompts não são necessariamente as mesmas que fazem um bom programador.

“A habilidade de engenharia de prompts não é 100% correlacionada com engenheiros. Há uma subseção, mas realmente é uma habilidade tipo ‘gambiarra’ [que é necessária] … ‘Eu vou tentar essa coisa aleatória, e então vou ver qual é a saída,’” ele nos conta. “Algumas pessoas tentam realmente planejar e fazer pesquisa sobre qual deve ser o prompt. E na minha opinião, essas pessoas não são boas em [engenharia de prompts] porque não há realmente uma ciência.”

“Acho que quanto menos você tenta entender o LLM, melhor você é,” ele adicionou.

Construindo demanda

Zoneraich está otimista sobre a necessidade do mercado por ferramentas que extraem o melhor dos LLMs. Ele também não está preocupado que este novo campo de engenharia de prompts acabe sendo um mero instante na história do trabalho que será rapidamente ofuscado por novos desenvolvimentos no acelerado mercado de GenAI.

Mesmo uma AGI — caso uma inteligência artificial geral fosse criada — precisaria de algo com que trabalhar, ele argumenta, implicando que os humanos ainda precisarão de alguma forma de ferramentas/apoio para guiar as máquinas no futuro próximo.

“A parte difícil é, o que eu faço com isso? A parte difícil é, que tarefa eu dou para resolver?” ele diz, sublinhando a confiança da PromptLayer de que está construindo ferramentas para o longo prazo. “A parte difícil é definir o que fazer.”

“Se você acredita que não há uma solução perfeita para muitos desses problemas, existem infinitas maneiras de solucioná-los, e esse é o trabalho do engenheiro de prompts — escolher qual problema eu estou realmente resolvendo? Qual é o contexto para resolver o problema?” ele continua.

“O LLM é apenas a ferramenta para ir da definição do problema à solução, mas você apenas está movendo a camada de abstração … Nós a movemos de código de máquina para linguagens de programação modernas. Depois, nós a movemos de linguagens de programação modernas para prompts. E talvez vamos movê-la de prompts brutos para ser como entrada para os prompts,” ele disse.

“Mas, no final das contas, você ainda precisa de alguma entrada. Existe essa parte irreduzível disso.”

A rodada de sementes será usada para expandir a equipe (atualmente com oito integrantes), com foco na adição de talentos de engenharia internos para garantir qualidade e confiabilidade de serviço para os clientes, de acordo com Zoneraich. Ele diz que também querem expandir a plataforma para atender mais casos de uso e aumentar o uso — além de dedicar esforços e energia na construção de uma comunidade para ajudar a nutrir este campo em crescimento da engenharia de prompts.

“O veredicto ainda não está definido sobre como é um engenheiro de prompts ou o que é um engenheiro de prompts. E acho que é nosso trabalho construir uma comunidade ao redor disso — ser como um pioneiro nesse campo de engenharia de prompts e mostrar às pessoas como fazer isso. Então esse é um grande foco.”

A PromptLayer ainda não está revelando quantos clientes pagantes possui para suas ferramentas — mas Zoneraich diz que eles têm mais de 10.000 clientes gratuitos e pagos que passaram pelo site deles. (ParentLab e Speak, apoiada pela OpenAI, são dois clientes pagantes que ele menciona.)

A startup também viu um crescimento de receita de 13x este ano — e afirma que esse crescimento rápido de receita é puramente boca a boca “à medida que as equipes descobrem que precisam de especialistas de domínio, não apenas engenheiros, para construir IA.”

“Tudo que você precisa fazer para resolver esses problemas de prompting é mudar o prompt e ver como os resultados são — e temos muitas ferramentas para ajudar você a fazer isso em escala. Mas isso é o fundamental: apenas o método científico,” adiciona Zoneraich.