跳到正文
热点事件持续更新

研究者提出 HIFI 统计推断框架

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Po-Wei Chen、Shan Yu 和 Chunlin Li 提出 HIFI,用于对基础模型进行统计推断;视觉和文本实验显示,该框架较直接重采样最多减少 91.9% 的训练计算量。HIFI 先用较大样本拟合一次,再用较小的独立样本并行拟合轻量级 PEFT 估计器,以量化估计变异性;实验涵盖从数千万到超过百亿参数的预训练模型。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · Machine Learning
    HIFI:面向基础模型统计推断的高效框架

    HIFI提出用于基础模型统计推断的两阶段微调框架,先用较大样本拟合一次,再以较小独立样本并行拟合轻量级PEFT估计器,量化估计变异性。在视觉和文本实验中,该框架适用于参数规模从数千万到超过100亿的预训练模型,较直接重采样最多减少91.9%的训练计算量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。