INTOSYN AI Lab — KI Forschungsabteilung

Hin zu vertrauenswürdiger und kontrollierbarer AGI

Wir untersuchen, wie intelligente Systeme entscheiden, wann sie vertrauenswürdig sind und wie sie sich prüfen und korrigieren lassen. Fünf laufende Projekte übersetzen diese Fragen in prüfbare Hypothesen und Experimente.

Forschung entdecken→ An der Forschung mitwirken

Laufende Projekte

Theorie × Experimente

Von Fragen zu prüfbaren Hypothesen

GPU

Rechenleistung für Forschung

Im Austausch mit diesen Forschungsgemeinschaften

Nature
Science
NeurIPS
ICML
ICLR
CVPR
ICCV
ECCV
ACL
EMNLP
AAAI
IJCAI

UNSER ANSATZ

Klare Fragen. Sorgfältige Forschung.

Mit prüfbaren Hypothesen beginnen

Vertrauen und Kontrolle in konkrete Fragen übersetzen, Annahmen offenlegen und festhalten, welche Befunde eine Hypothese widerlegen könnten.

Aussagekräftige Vergleiche anstellen

Evaluationen mit Baselines, kontrollierten Vergleichen und Fehlerfällen entwerfen. Beobachtungen, Hypothesen und Geltungsgrenzen auseinanderhalten.

Theorie mit ausführbaren Systemen verbinden

Agenten, Finanzforschung, Sequenzgenerierung, Kryo-EM und CAD als experimentelle Umgebungen nutzen, um Methoden an konkreten Aufgaben zu prüfen.

LAUFENDE FORSCHUNG

Fünf Projekte. Fünf offene Fragen.

Vom Modellwechsel bis zur wissenschaftlichen Validierung verbindet uns eine Frage: Wie lassen sich intelligente Systeme verstehen und auf Grundlage von Evidenz gezielt beeinflussen?

CommitGate

Agent / LLMIn Arbeit

State AbstractionCounterfactual EvaluationModel Routing

Bleibt der Fortschritt nach einem Modellwechsel erhalten?

Ein Modellwechsel kann die nächsten Aktionen eines Agenten ändern, ohne zwangsläufig das Aufgabenergebnis zu verändern. CommitGate untersucht, welche Zustände diesen Unterschied bestimmen und ob sich die Folgen ohne vollständigen Neulauf vorhersagen lassen.

Ansatz und Evaluation

Forschungsansatz

Zustandsabstraktionen jenseits reiner Aktionsprotokolle untersuchen und Fortsetzungen unter kontrollierten Modellwechseln vergleichen, um Ergebnisäquivalenz zwischen Trajektorien zu beschreiben.

Evaluationsschwerpunkte

Vorhersagen über Aufgaben, Wechselzeitpunkte und Modellpaare hinweg mit vollständigen Neuläufen vergleichen und Geltungs- sowie Fehlerbereiche bestimmen.

BITBUDGET

Adaptive InferenceIn Arbeit

Adaptive Data AnalysisGeneralizationInformation Budget

Wie viel lernt die Suche aus Validierungsdaten?

Adaptive Suche nutzt wiederholt Rückmeldungen derselben Daten, um Hypothesen anzupassen. Die Anzahl der Versuche allein erfasst diese Abhängigkeit möglicherweise nicht. BITBUDGET untersucht ihren Zusammenhang mit der Leistung außerhalb der Stichprobe.

Ansatz und Evaluation

Forschungsansatz

Validierungsspezifische Information in der endgültigen Hypothese charakterisieren. In der Finanzforschung Informationsbudgets verschiedener Rückmeldemechanismen und Suchstrategien vergleichen.

Evaluationsschwerpunkte

Prüfen, ob Budgetschätzungen Generalisierungsunterschiede zwischen Suchstrategien erklären und Leistungsabfälle über Zeiträume und Märkte hinweg vorhersagen.

RONDO

AlignmentIn Arbeit

Credit AssignmentWeak SupervisionCounterfactual Intervention

Lassen sich lokale Beiträge aus Gesamtpräferenzen ableiten?

Eine Gesamtbewertung zeigt nicht unmittelbar, welcher Abschnitt einer langen Sequenz ihre Qualität beeinflusst. RONDO untersucht die zeitliche Beitragszuordnung anhand von Präferenzvergleichen und lokalen Eingriffen, ohne dichte Annotationen einzelner Abschnitte.

Ansatz und Evaluation

Forschungsansatz

Originalsequenzen mit gezielten Änderungen vergleichen. Ausgehend von musikalischer Struktur untersuchen, unter welchen Annahmen lokale Beiträge identifizierbar werden.

Evaluationsschwerpunkte

Lokalisierungen mit unabhängiger Strukturinformation abgleichen, den Einfluss lokaler Korrekturen auf Gesamtpräferenzen prüfen und Transferbedingungen für andere Langsequenzaufgaben untersuchen.

CryoMender

AI for ScienceIn Arbeit

Surrogate ModelingCalibrationCryo-EM

Wann ist eine kostengünstige Bewertung verlässlich?

CryoMender untersucht lokale Korrekturen atomarer Modelle aus Kryo-EM-Daten. Das Projekt erforscht, ob Surrogatmodelle Kandidaten vorsortieren, aufwendige Validierungen reduzieren und Fälle mit zusätzlichem Prüfbedarf erkennen können.

Ansatz und Evaluation

Forschungsansatz

Kandidatenrangfolge, Unsicherheitsschätzung und Kalibrierung verbinden, um ein begrenztes Budget für physikalische und geometrische Prüfungen auf unsichere Korrekturen zu konzentrieren.

Evaluationsschwerpunkte

Validierungskosten, Korrekturqualität und das Risiko fehlerhafter Akzeptanz gemeinsam bewerten, insbesondere bei Auflösungsänderungen und Verteilungsverschiebungen.

ReproWorld

World ModelIn Arbeit

Causal LocalizationExecutable ProgramsMinimal Repair

Verrät ein fehlgeschlagener Aufbau den ersten fehlerhaften Schritt?

Frühe Fehler in einem parametrischen CAD-Aufbau können sich über spätere Abhängigkeiten fortsetzen. ReproWorld untersucht, wie sich Symptome auf ursächliche Fehler zurückführen lassen und die Ausführung mit möglichst wenigen Änderungen wiederhergestellt werden kann.

Ansatz und Evaluation

Forschungsansatz

Konstruktionsverläufe als ausführbare Programme behandeln. Mit Eingriffen auf Schrittebene Fehlerfortpflanzung, kausale Lokalisierung und abhängigkeitsbewusste minimale Korrekturen untersuchen.

Evaluationsschwerpunkte

Mit vollständiger Neugenerierung vergleichen: Ausführungsaufwand, Änderungsumfang, wiederhergestellte Korrektheit sowie Erhalt von Randbedingungen und Bearbeitbarkeit.

Infrastruktur

Rechenleistung für reproduzierbare Experimente

Training, Simulation und Evaluation in konsistenten Rechenumgebungen unterstützen, damit Konfigurationen, Abläufe und Ergebnisse vergleichbar und überprüfbar sind.

GPU-Rechenleistung

Rechenressourcen für Modelltraining, Inferenz und wissenschaftliche Evaluation.

Verteilte Experimente

Vernetzte Knoten für parallele Aufgaben und verteiltes Training.

Daten und Experimentartefakte

Speicher für Datensätze, Checkpoints und Laufprotokolle.

Forschungswerkzeuge

PyTorch-, JAX- und CUDA-Werkzeuge mit projektbezogenen Umgebungen.

Beispiel eines Forschungsrechenablaufs

Mit einer klaren Frage beginnen. Gemeinsam Evidenz schaffen.

Wählen Sie ein Projekt und stellen Sie relevante Erfahrungen oder eigenständige Arbeiten vor. Gemeinsam besprechen wir die Forschungsfrage, mögliche Ansätze und Ihren zeitlichen Rahmen.