Entdecken Sie das revolutionäre Tool der Marsmenschen, das die Kosten beim Wechsel von einer LLM zu einer anderen automatisch senkt!

KI-Forscher gründen Unternehmen zur Förderung der Grundlagenforschung

Shriyash Upadhyay und Etan Ginsberg, KI-Forscher an der University of Pennsylvania, sind der Ansicht, dass viele große KI-Unternehmen die Grundlagenforschung zugunsten der Entwicklung wettbewerbsfähiger und leistungsstarker KI-Modelle opfern. Ihrer Meinung nach führt die Marktdynamik dazu, dass die Unternehmen den Großteil ihrer Mittel dafür aufwenden, der Konkurrenz einen Schritt voraus zu sein, anstatt die Grundlagen zu erforschen.

Kostengünstige KI-Forschung

"Während unserer LLM-Forschung [an der University of Pennsylvania] haben wir diese besorgniserregenden Trends in der KI-Industrie beobachtet", sagten Upadhyay und Ginsberg in einem E-Mail-Interview mit uns. "Die Herausforderung besteht darin, die KI-Forschung rentabel zu machen".

Die beiden Forscher waren der Meinung, dass der beste Weg, diese Herausforderung zu meistern, darin bestehen könnte, ein eigenes Unternehmen zu gründen, ein Unternehmen, dessen Produkte von der Interpretierbarkeit profitieren würden. Sie stellten die Hypothese auf, dass die Mission des Unternehmens natürlich darauf ausgerichtet sein würde, die Forschung zur Interpretierbarkeit zu fördern, anstatt nach Kapazitäten zu suchen, was zu besseren Forschungsergebnissen führen würde.

Martian sammelt 9 Millionen Dollar für die KI-Forschung ein

Dieses Unternehmen, Martian, ist heute mit einer Finanzierung von 9 Millionen US-Dollar von Investoren wie NEA, Prosus Ventures, Carya Venture Partners und General Catalyst aus der Versenkung aufgetaucht. Die Mittel werden laut Upadhyay und Ginsberg für die Produktentwicklung, die Erforschung der internen Abläufe der Modelle und die Vergrößerung des 10-köpfigen Teams von Martian verwendet.

Das erste Produkt von Martian

Martians erstes Produkt ist ein "Modellrouter", ein Werkzeug, das eine Anweisung für ein großes Sprachmodell (LLM) - sagen wir GPT-4 - nimmt und sie automatisch an das "beste" LLM weiterleitet. Standardmäßig wählt der Modellrouter das LLM mit der besten Verfügbarkeitszeit, den besten Fähigkeiten (z. B. mathematische Problemlösung) und dem besten Kosten-Leistungs-Verhältnis für die betreffende Anweisung.

"Unternehmen verwenden derzeit LLMs, indem sie eine einzige LLM für jeden Endpunkt wählen, an den sie alle ihre Anfragen senden", erklärten Upadhyay und Ginsberg. "Aber bei einer Aufgabe wie der Erstellung einer Website werden verschiedene Vorlagen besser für eine bestimmte Anfrage geeignet sein, je nach dem vom Benutzer angegebenen Kontext (welche Sprache, welche Funktionen, wie viel sie zu zahlen bereit sind usw.)... Durch die Verwendung eines Teams von Vorlagen in einer Anwendung kann ein Unternehmen eine bessere Leistung und niedrigere Kosten als jede einzelne LLM erzielen."

Ein besseres Verhältnis von Kosten und Leistung

Daran ist etwas Wahres dran. Sich ausschließlich auf einen High-End-LLM wie GPT-4 zu verlassen, kann für einige, wenn nicht sogar für die meisten Unternehmen prohibitiv teuer sein. Der CEO von Permutable.ai, einem Marktinformationsunternehmen, enthüllte kürzlich, dass es das Unternehmen mehr als eine Million Dollar pro Jahr kostet, etwa 2 Millionen Artikel pro Tag mithilfe von High-End-Modellen von OpenAI zu verarbeiten.

Nicht alle Aufgaben benötigen die Leistung der teuersten Modelle, aber es kann schwierig sein, ein System zu bauen, das während der Ausführung intelligent umschaltet. Hier kommt Martian ins Spiel, mit seiner Fähigkeit, die Leistung eines Modells abzuschätzen, ohne es tatsächlich auszuführen.

"Martian kann bei Anfragen, die eine ähnliche Leistung wie die teuersten Modelle erbringen, auf billigere Modelle routen und nur bei Bedarf auf teure Modelle routen", fügten sie hinzu. "Der Modellrouter indiziert neue Modelle, sobald sie veröffentlicht werden, und baut sie in die Anwendungen ein, ohne dass Reibung oder manuelle Arbeit erforderlich ist."

Die Adoption von Martian

Der Vorlagenrouter von Martian ist keine neue Technologie. Mindestens ein weiteres Startup, Credal, bietet ein Tool zur automatischen Vermittlung von Modellen an. Sein Erfolg wird davon abhängen, ob Martians Preisgestaltung wettbewerbsfähig ist und ob er in Geschäftsszenarien mit hohem Einsatz funktioniert.

Upadhyay und Ginsberg behaupten, dass es bereits zu einer gewissen Übernahme gekommen ist, auch unter "multinationalen" Unternehmen.

"Einen wirklich effizienten Muster-Router zu bauen, ist extrem schwierig, weil man dazu ein Verständnis dafür entwickeln muss, wie diese Muster grundsätzlich funktionieren", erklärten sie. "Das ist der Durchbruch, den wir erreicht haben".