Inertia-1: An Open Exploration to a Unified Motion Foundation Model2 months agohttps://yang-ai-lab.github.io/Inertia-1/Inertia-1引入了一种统一的运动基础模型,它克服了数据采样率和传感器位置不一致等问题,使单一表征无需重新训练即可适应不同设置。该模型利用超过1800万小时的加速度计数据进行自监督学习,并在不同身体位置和传感器类型(如陀螺仪、磁力计)下保持性能,多流输入提高了准确性和聚类效果。关键实践洞察包括:任务的最佳窗口为30-60秒、三轴输入优于矢量幅度输入、时域建模可保留步态线索,以及在低至1 Hz的采样率下仍具有稳健的活动识别能力。
TabFM: A zero-shot foundation model for tabular data3 months agohttps://research.google/blog/introducing-tabfm-a-zero-shot-foundation-model-for-...谷歌发布TabFM,这是一个面向表格数据的零样本分类与回归任务的基础模型,无需手动训练和特征工程。TabFM利用上下文学习技术,将整个数据集作为提示词进行处理,在推理时学习数据关系,无需更新模型权重。该模型采用混合架构,结合了TabPFN与TabICL的优势,以处理表格数据的二维、无序结构特点。由于真实世界表格数据集的稀缺,TabFM通过在结构因果模型生成的数亿个合成数据集上进行预训练。TabArena基准测试显示,TabFM(拥有1B和3.1B参数两种配置)超越了传统监督学习方法(如XGBoost)和专用模型。TabFM将被集成到谷歌BigQuery中,用户可通过简单的SQL命令进行预测,无需机器学习专业知识。