Das französische Startup Mistral AI sorgt mit seinen leistungsstarken Sprachmodellen für Aufsehen in der KI-Welt. Nach einer Rekordfinanzierung von über 500 Millionen Dollar gilt Mistral AI als Hoffnungsträger, um die Dominanz der US-amerikanischen Tech-Giganten zu brechen. Dieser Artikel beleuchtet die Ambitionen, die Technologie und Zukunftsaussichten von Mistral AI.
Eine Erfolgsgeschichte made in France
Im April 2022 gründeten die drei Franzosen Arthur Mensch, Guillaume Lample und Timothée Lacroix das Unternehmen Mistral AI. Der Name leitet sich vom französischen Mistral-Wind ab, der Kreativität und Energie symbolisieren soll.
Die Gründer selbst arbeiteten zuvor bei den Tech-Riesen Meta und Google DeepMind und gehören damit zur Crème de la Crème der KI-Forschung. Ihr Ziel: Mit Mistral AI einen europäischen Champion im Bereich der künstlichen Intelligenz aufzubauen, der es mit den Tech-Giganten aus dem Silicon Valley aufnehmen kann.
https://www.handelsblatt.com/technik/it-internet/ki-start-up-mistral-ai-105-millionen-euro-fuer-kaum-mehr-als-eine-idee-/29201316.html
Nach nur wenigen Monaten Anlaufzeit im Sommer 2022 konnte Mistral AI in einer ersten Finanzierungsrunde 105 Millionen Euro einsammeln. Nur sechs Monate später folgte eine Extension dieser Runde um weitere 385 Millionen Euro. Damit gehört Mistral AI bereits jetzt zu den am besten finanzierten KI-Startups weltweit. Die Bewertung liegt aktuell bei rund 2 Milliarden US-Dollar.
So will Mistral AI die KI-Welt erobern
Doch wofür genau braucht Mistral AI all dieses Geld? Im Kern geht es um die Entwicklung besonders leistungsfähiger Sprachmodelle auf Basis künstlicher neuronaler Netze. Diese Sprachmodelle sollen in der Lage sein, menschliche Konversationen zu verstehen, darauf zu reagieren und eigene Texte zu generieren.
Das aktuelle Flaggschiff-Modell von Mistral AI hört auf den Namen Mixtral 8x7B. Es handelt sich mit 46,7 Milliarden Parametern um eines der größten jemals trainierten Sprachmodelle. Zum Vergleich: Das derzeit wohl bekannteste Modell ChatGPT des US-Startups OpenAI kommt „nur“ auf 175 Milliarden Parameter.
Mixtral ist also durchaus in der Champions League der Sprach-KI angekommen. Möglich wird dies durch eine spezielle Mixture-of-Experts Architektur, die die Trainingskosten und den Energiebedarf im Betrieb reduziert. Anders als ChatGPT und andere Systeme verzichtet Mixtral zudem auf externe Datenbanken und beantwortet Fragen nur auf Basis seines Trainings.
Neben Mixtral hat Mistral AI noch weitere Modelle wie Mistral-7B im Angebot. Und der nächste Paukenschlag ist schon angekündigt: Anfang 2024 soll mit Mistral-Giga ein Modell mit 100 Milliarden Parametern an den Start gehen und damit endgültig die Leistungsfähigkeit demonstrieren.
Offen für alle: Die Mistral AI Plattform
Eines der Alleinstellungsmerkmale von Mistral AI ist die konsequente Open Source Ausrichtung. Die Modelle Mistral-7B und Mixtral-8x7B stehen bereits jetzt unter der Apache 2.0 Lizenz zum Download bereit. Jeder kann damit die Modelle nutzen, anpassen und erweitern.
Um den Zugang noch einfacher zu machen, bietet Mistral AI mit La Plateforme auch eine Cloud-Plattform für seine Modelle an. Über eine einfache API-Schnittstelle kann hier auf die KI-Modelle zugegriffen werden, ohne sich selbst um Hosting oder Skalierung kümmern zu müssen.
La Plateforme befindet sich aktuell noch in der Beta-Phase, soll aber im Laufe des Jahres für alle Interessierten geöffnet werden. Das Geschäftsmodell sieht vor, dass Basis-Nutzung kostenfrei bleibt, während zusätzliche API-Aufrufe auf Basis eines Credits-Systems monetarisiert werden.
Mixtral of Experts
https://arxiv.org/pdf/2401.04088.pdf
Mixtral 8x7B, ein Sprachmodell basierend auf einem Sparse Mixture of Experts (SMoE) Ansatz, übertrifft oder erreicht die Leistung von Llama 2 70B und GPT-3.5 in allen bewerteten Benchmarks, insbesondere in Mathematik, Code-Generierung und mehrsprachigen Benchmarks. Es nutzt dabei nur einen Bruchteil seiner Parameter für jeden Token, was eine schnellere Inferenzgeschwindigkeit bei kleinen Batches und eine höhere Durchsatzrate bei großen Batches ermöglicht.
Verantwortungsvolle KI: Das Ethos von Mistral
In der Vergangenheit stand die KI-Forschung nicht selten in der Kritik, etwa wenn es um Verzerrungen in Algorithmen oder den hohen Energiebedarf geht. Mistral AI hat sich daher einem verantwortungsvollen Umgang mit KI verschrieben.
So unterliegen die Modelle strengen Qualitätskontrollen, um schädliche Verzerrungen zu verhindern. Forschungsergebnisse werden zudem öffentlich dokumentiert. Auch die Einhaltung ethischer KI-Grundsätze ist bei Mistral AI oberste Priorität.
Nicht zuletzt soll auch der Energiebedarf der Modelle durch effiziente Architekturen und den Einsatz erneuerbarer Energien so gering wie möglich gehalten werden. Mistral AI geht damit mit gutem Beispiel voran, dass KI und gesellschaftliche Verantwortung kein Widerspruch sein müssen.
Fazit: Europe’s next Tech-Star?
Mistral AI hat binnen kürzester Zeit den Aufstieg zu einem der vielversprechendsten KI-Startups Europas geschafft. Die ambitionierten Gründer, die Spitzenforschung im Bereich Sprachmodelle und die konsequente Open Source Ausrichtung sind starke Erfolgsfaktoren.
Sollte Mistral AI weiterhin technologisch und produktseitig überzeugen, könnte Frankreich mit dem Unternehmen seinen ersten global relevanten Tech-Konzern seit langer Zeit hervorbringen. Damit würde sich Europa ein Stück Unabhängigkeit von den Tech-Giganten aus den USA zurückholen.
Ob am Ende gar ein europäisches Pendant zu OpenAI und ChatGPT entstehen kann, wird die Zukunft zeigen. Die Weichen bei Mistral AI stehen jedenfalls auf Angriff und das Potenzial ist zweifellos vorhanden. Europa und die Welt dürfen gespannt sein auf das, was da noch kommt.