INTOSYN AI Lab — AI Research Division

Towards Trustworthy and Controllable AGI

理解智能系统如何做出决策、何时值得信任,以及如何被验证与修正,我们通过五个在研项目,将基础问题推进为可检验的假设与实验

5
在研项目
理论 × 实验
从问题到可检验的假设
GPU
研究计算基础设施
与这些学术社区的研究保持对话
  • Nature
  • Science
  • NeurIPS
  • ICML
  • ICLR
  • CVPR
  • ICCV
  • ECCV
  • ACL
  • EMNLP
  • AAAI
  • IJCAI
研究方法

用清楚的问题,组织严谨的研究

从可检验的假设出发

把可信与可控拆解为具体问题,明确研究对象、假设条件与可能推翻假设的证据

让方法经得起对照

围绕基线、对照实验和失败案例设计验证,区分已有观察、研究假设与适用范围

连接理论与可执行系统

以智能体、金融研究、序列生成、冷冻电镜与 CAD 为实验场,检验方法在具体任务中的表现

正在开展的研究

五个项目,五个开放问题

从模型切换到科学验证,我们关注同一个核心问题:如何理解智能系统的行为,并在证据支持下进行干预与修正

CommitGate

Agent / LLM在研
State AbstractionCounterfactual EvaluationModel Routing

切换模型后,任务进展是否仍然等价

模型切换可能改变智能体的后续动作,却不一定改变任务结果,CommitGate 研究哪些任务状态决定这种差异,以及能否在完整重跑前预测切换的影响

研究方法与验证重点
研究方法

研究超越原始动作日志的状态抽象,在受控模型替换下比较任务的后续执行,刻画不同轨迹之间的结果等价性

验证重点

与完整重跑对照,检验等价性预测在不同任务、切换位置和模型组合中的有效性与失效边界

BITBUDGET

Adaptive Inference在研
Adaptive Data AnalysisGeneralizationInformation Budget

反复搜索,消耗了多少验证信息

自适应搜索不断利用同一份数据的反馈调整假设,单看试验次数,未必能反映对验证数据的依赖程度,BITBUDGET 研究这种依赖与样本外表现之间的关系

研究方法与验证重点
研究方法

刻画最终假设吸收的验证集特有信息,以金融研究为实验场,比较不同反馈机制与搜索策略的信息预算

验证重点

检验预算估计能否解释不同搜索策略的泛化差异,并预测跨时段、跨市场的表现衰减

RONDO

Alignment在研
Credit AssignmentWeak SupervisionCounterfactual Intervention

整体偏好,能否定位局部贡献

一个整体评分并不直接说明长序列的哪一段影响了质量,RONDO 研究如何利用偏好比较和局部干预,识别时间维度上的贡献,而不依赖密集的逐段标注

研究方法与验证重点
研究方法

比较原始序列与定点修改后的序列,从音乐结构入手,研究局部贡献在什么假设下能够被辨识

验证重点

核对定位结果与独立的结构信息,检验局部修复是否改善整体偏好,并研究向其他长序列任务迁移的条件

CryoMender

AI for Science在研
Surrogate ModelingCalibrationCryo-EM

低成本评估,何时值得信任

CryoMender 以冷冻电镜原子模型的局部修复为研究对象,探索如何用代理模型筛选候选方案,减少昂贵验证的调用,同时识别需要进一步核验的情况

研究方法与验证重点
研究方法

结合候选排序、不确定性估计与校准,将有限的物理和几何验证预算优先分配给不确定的修复方案

验证重点

共同评估验证成本、修复质量与错误接受风险,重点检查分辨率变化和分布偏移时的可靠性

ReproWorld

World Model在研
Causal LocalizationExecutable ProgramsMinimal Repair

从最终错误,追溯最早的失误

参数化 CAD 构建中的早期错误可能沿依赖关系传播,ReproWorld 研究如何从下游症状定位因果错误,并通过修改尽可能少的操作恢复执行

研究方法与验证重点
研究方法

把构建历史视为可执行程序,通过步骤级干预检查错误传播,研究因果定位与依赖感知的最小修复

验证重点

对照整段重新生成,衡量恢复正确结果所需的执行次数、修改范围,以及约束与可编辑性的保留情况

Infrastructure

为研究提供可复现的实验环境

将训练、仿真与评测放在一致的计算环境中,让实验配置、运行过程和结果能够被比较与复查

GPU 计算集群

面向模型训练、推理和研究评测配置计算资源

分布式实验

以节点互联支持并行任务和多机训练

数据与实验产物

为数据集、检查点和运行记录提供存储

研究工具与环境

支持 PyTorch、JAX、CUDA 等工具,按项目组织实验环境

研究计算流程示意

从一个明确的问题,一起推进研究

选择一个您感兴趣的项目,介绍相关经历或独立完成的工作,我们从研究问题、方法与可投入的时间开始交流