Nota AI erhält internationale Anerkennung für seine Optimierungsforschung

Zwei Fachbeiträge bei der EMNLP 2026, einer führenden NLP-Konferenz, angenommen
– Ein Beitrag für das Hauptprogramm der EMNLP 2026 und ein weiterer für die Findings angenommen – beide stellen neue Verfahren zur Quantisierung von MoE-Modellen vor
– Die Annahme der beiden EMNLP-Beiträge folgt auf einen dritten Platz und zwei angenommene Beiträge bei einem ICML-2026-Workshop im Juli und bestätigt erneut die technologische Leistungsfähigkeit von Nota AI innerhalb der internationalen Forschungsgemeinschaft
– Optimierungstechnologie senkt die Zahl der für den Betrieb von Qwen3.8-Max erforderlichen GPUs von 24 auf vier und steigert damit die Effizienz beim Betrieb von LLMs und Rechenzentren SEOUL, Südkorea, 25. August 2026 /PRNewswire/ -- Nota AI, ein Unternehmen für KI-Modelloptimierung, stärkt seine Position im Bereich der KI-Optimierung, da die Forschung des Unternehmens in der internationalen Wissenschaft zunehmend Anerkennung findet. Nota AI gab am 25. August bekannt, dass zwei Fachbeiträge des Unternehmens zur Optimierung großer KI-Modelle bei der EMNLP 2026, einer führenden internationalen Konferenz für natürliche Sprachverarbeitung (Natural Language Processing, NLP), angenommen wurden. Einer der Beiträge wurde für das Hauptprogramm (Main Conference), der andere für die Findings ausgewählt. Der Wettbewerb war in diesem Jahr besonders intensiv: Rund 18.000 Beiträge wurden eingereicht. Das Hauptprogramm nahm lediglich 15,4 Prozent der Einreichungen an. Der Beitrag von Nota AI durchlief dieses anspruchsvolle Begutachtungsverfahren erfolgreich und wurde in das wissenschaftliche Hauptprogramm aufgenommen. Die EMNLP zählt weltweit zu den führenden Konferenzen im Bereich der natürlichen Sprachverarbeitung. Globale Technologiekonzerne wie Google, Meta und OpenAI sowie renommierte Universitäten präsentieren dort ihre neuesten Forschungsergebnisse. Das Hauptprogramm ist der zentrale wissenschaftliche Programmbereich der Konferenz und umfasst Forschungsarbeiten, die aufgrund ihrer Originalität, technischen Genauigkeit und wissenschaftlichen Bedeutung anerkannt wurden. Die Findings sind eine offizielle Publikationsplattform für Forschungsarbeiten, deren technische Solidität und wissenschaftlicher Wert anerkannt wurden. Die beiden Fachbeiträge befassen sich mit Leistungsverlusten, die auftreten können, wenn Modelle auf Basis einer Mixture-of-Experts-Architektur (MoE) quantisiert werden. MoE-Architekturen, die zunehmend in großen Sprachmodellen wie Qwen und Kimi eingesetzt werden, aktivieren für jedes Eingabe-Token nur eine Teilmenge relevanter „Experten". Da jedoch weiterhin das vollständige Modell im Speicher vorgehalten werden muss, erfordert der Betrieb dieser Modelle erhebliche GPU- und Speicherressourcen. Durch Quantisierung lässt sich dieser Ressourcenbedarf verringern. Bereits geringe numerische Abweichungen können jedoch dazu führen, dass andere Experten als vorgesehen ausgewählt werden, wodurch die Qualität der Antworten beeinträchtigt werden kann. Der für das Hauptprogramm angenommene Beitrag stellt „MENDS-MoE" vor, eine Methode, die berücksichtigt, wie sich die Quantisierung in jedem nachfolgenden Schritt auf die Expertenauswahl auswirkt, und die Rangfolge der Experten nahe der Auswahlgrenze bewahrt. In Experimenten zur 4-Bit- und 3-Bit-Quantisierung mit drei MoE-Modellen erzielte die Methode in den meisten Evaluierungsszenarien eine höhere durchschnittliche Genauigkeit und eine bessere Sprachmodellleistung als die Vergleichsverfahren. Der für die Findings angenommene Beitrag stellt „OPERA" vor, eine Methode, die nicht jede Veränderung bei der Expertenauswahl gleichermaßen korrigiert, sondern die Optimierung auf jene Veränderungen konzentriert, die das endgültige Ergebnis eines Modells beeinflussen. Die beiden Studien ergänzen einander: Beide tragen dazu bei, Routing-Entscheidungen nach der Quantisierung beizubehalten, und konzentrieren die Optimierung zugleich auf die Veränderungen, die für die Qualität der Antworten am relevantesten sind. Anfang dieses Jahres belegte Nota AI unter rund 40 Teams weltweit den dritten Platz beim „Efficient Qwen Competition". Der Wettbewerb war Teil des Workshops „Resource-Adaptive Foundation Model Inference" (AdaptFM) auf der ICML 2026. Beim Betrieb des quelloffenen großen Sprachmodells Qwen3.5-4B auf einer einzelnen NVIDIA-A10G-GPU erhielt das Unternehmen die Modellleistung aufrecht und erzielte gegenüber der Baseline eine durchschnittliche 6,978-fache Beschleunigung der Inferenz. Bei demselben Workshop wurden außerdem zwei Fachbeiträge von Nota AI zur MoE-Quantisierung angenommen. Zusammengenommen untermauern diese Erfolge erneut die technologische Wettbewerbsfähigkeit von Nota AI auf weltweit führenden KI-Konferenzen. Bislang hat Nota AI mehr als 50 Fachbeiträge auf führenden Konferenzen und in wissenschaftlichen Fachzeitschriften in Korea und im Ausland präsentiert oder veröffentlicht. Die behandelten Forschungsbereiche umfassen Kerntechnologien des Prunings und der Quantisierung, mobile und Edge-KI, generative KI, Vision-Language-Modelle (VLMs) sowie große Sprachmodelle (LLMs). Da KI-Modelle von Hunderten Milliarden auf Billionen von Parametern anwachsen, entwickeln sich Technologien, die den GPU- und Speicherbedarf bei gleichbleibender Modellleistung reduzieren, zu einem entscheidenden Faktor für die Wirtschaftlichkeit von KI-Diensten. Nota AI wendet seine in der Forschung validierten Optimierungsmethoden auf große Sprachmodelle und die KI-Infrastruktur von Rechenzentren an. Zuletzt ermöglichte die Optimierungstechnologie von Nota AI den Betrieb von „Qwen3.8-Max", einem Modell mit mehr als einer Billion Parametern, auf vier NVIDIA-B300-GPUs. Die ursprüngliche Modellkonfiguration umfasste 24 GPUs. Das Unternehmen ermöglichte außerdem den Betrieb von „Kimi K3" von Moonshot AI auf nur vier NVIDIA-B300-GPUs gegenüber acht GPUs in der ursprünglichen Konfiguration. „Solar Open 2" von Upstage konnte auf zwei NVIDIA-H100-GPUs statt auf acht GPUs in der ursprünglichen Konfiguration betrieben werden. „Da KI-Modelle auf Hunderte Milliarden oder Billionen von Parametern anwachsen, verlagert sich der Wettbewerbsschwerpunkt der Branche von der reinen Modellleistung hin zur betrieblichen Effizienz", sagte Myungsu Chae, CEO von Nota AI. „Dieser Erfolg zeigt, dass Nota AI durch jahrelange Forschung im Bereich der KI-Optimierung die technische Grundlage geschaffen hat, die erforderlich ist, um die Effizienz großer Sprachmodelle und der KI-Infrastruktur von Rechenzentren zu verbessern. Wir werden weiterhin in Forschung und Entwicklung investieren, um mit architektonischen Veränderungen bei modernsten KI-Modellen Schritt zu halten. Gleichzeitig werden wir den Einsatzbereich unserer zentralen Optimierungstechnologie erweitern, um KI-Infrastrukturen effizienter zu gestalten." View original content to download multimedia:https://www.prnewswire.com/de/pressemitteilungen/nota-ai-erhalt-internationale-anerkennung-fur-seine-optimierungsforschung-302859205.html