Das Entwicklerteam von Nvidia möchte Softwareentwicklern mit einem interessanten KI-Tool unter die Arme greifen, das es dem jeweiligen Entwickler ermöglichen würde, mithilfe von Anweisungen in natürlicher Sprache zu ermitteln, warum ein bestimmter Arbeitsablauf oder eine bestimmte Software langsamer läuft als erwartet, woraufhin der KI-Assistent selbst die Untersuchung durchführen würde, indem er verschiedene Systemparameter überprüft und bei Bedarf verschiedene Skripte erstellt und ausführt. Das Hauptziel besteht darin, die Ursachen von Leistungsproblemen so effizient wie möglich zu ermitteln.
Der KI-Assistent selbst wäre ein Chatbot, der auf einem speziellen, großen Sprachmodell basiert und Zugriff auf verschiedene Tools zur Leistungsanalyse hätte, um die Funktionsweise des Systems zu erfassen und die erforderlichen Daten zu beschaffen. Der Assistent könnte die Leistungsdaten der GPU überprüfen sowie Leistungsberichte analysieren und bei Bedarf mithilfe von Skripten die für die weitere Analyse erforderlichen Daten extrahieren. Am Ende der Analyse könnte dem Entwickler eine Zusammenfassung vorgelegt werden, aus der hervorgeht, an welchen Stellen und aufgrund welcher Komponenten oder Softwareelemente die Ausführung des jeweiligen Arbeitsablaufs verlangsamt wird.
Das Tool könnte nicht nur von Spieleentwicklern genutzt werden, sondern auch von Entwicklern und Forschern, die die GPU für parallele Rechenaufgaben einsetzen, sowie von Fachleuten, die andere GPU-basierte Arbeitsabläufe ausführen. Als zusätzliches Feature bestünde zudem die Möglichkeit, dass der KI-Assistent zwei Softwareversionen aussagekräftig miteinander vergleicht; zu diesem Zweck die dazugehörige Dokumentation beschaffen, Skripte zur Extraktion der erforderlichen Daten erstellen und schließlich neben der Analyse der GPU-Daten dem Fragesteller eine abschließende Schlussfolgerung liefern, die alle wesentlichen Bereiche und Einflussfaktoren abdeckt.
Bei der Arbeit würde sich das LLM auf externe Tools stützen; es würde nicht nur und ausschließlich mit den Informationen aus seinem eigenen Wissensbestand arbeiten, sondern konkrete Anwendungen zur Leistungsmessung und Softwareanalyse nutzen, wie ein echter Tester. Wichtig ist, dass das Patent von Nvidia darauf hindeutet, dass der KI-Assistent lediglich die möglichen Ursachen für Leistungsprobleme ermitteln würde, die erforderlichen Softwareänderungen jedoch nicht selbst vornehmen würde, sondern dem Entwickler lediglich die Engpässe und eventuellen Fehler aufzeigen würde.
Dies wird nicht der erste ähnliche KI-Assistent im Repertoire von Nvidia sein, sollte er fertiggestellt werden, denn „Project G-Assist“ ist bereits seit einiger Zeit für die Gaming-Community verfügbar und ähnelt in seiner Funktionalität stark dem oben genannten Pendant. Er kann Anweisungen auf Text- oder Sprachbasis entgegennehmen und darauf reagieren, sei es bei Empfehlungen zu Einstellungen oder bei der Durchführung dieser Einstellungen, aber er kann auch verschiedene Systemparameter abfragen und dem Spieler anzeigen, sei es Taktfrequenzen, GPU-Auslastung, Temperaturen oder den Stromverbrauch – und es kann noch vieles mehr. Der für Entwickler gedachte KI-Assistent basiert auf einem ähnlichen Konzept, erfüllt jedoch andere Aufgaben, da er in der Lage sein wird, Code und Leistungsdaten zu analysieren sowie die auf der GPU laufenden Workflows auszuwerten und leistungsbezogene Probleme aufzudecken.
Bislang gibt es noch keine Informationen darüber, wann genau der neue KI-Assistent erscheinen wird und wie er heißen wird.
