Então você quer usar o OpenRouter?

Então você quer usar o OpenRouter? (via) Um dos pontos de venda do OpenRouter é que ele “lida com substitutos automaticamente e escolhe a opção mais econômica para cada solicitação”, para que você possa chamar um único endpoint de API para um modelo e ser roteado para o melhor provedor de back-end disponível.

Mohamed Moustafa aponta uma série de maneiras pelas quais isso pode causar problemas. Diferentes provedores executam diferentes softwares de serviço com diferentes otimizações e configurações, o que significa que o mesmo endpoint OpenRouter pode atender solicitações de modelo que se comportam de maneiras diferentes.

Alguns provedores ainda não possuem capacidade de visão para modelos de visão, e a forma como a opção de esforço de raciocínio é processada também pode ser diferente.

Felizmente, você pode controlar para qual provedor é roteado usando a opção Provider.only. O método /endpoints retorna a lista de provedores disponíveis para um ID de modelo específico.