Who Needs DRAM? We Have Fiber2 months agohttps://arxiv.org/abs/2607.08407超大规模数据中心和生成式人工智能正在增加对动态随机存取存储器的需求及价格压力。光纤存储器使用光纤作为活性循环延时线存储器,适用于如大语言模型权重这类不可变数据。该架构采用多芯光纤、被动光分接放大接口、共封装光学器件及全光再生技术。它消除了数千个人工智能加速器中冗余的权重存储需求。与传统高带宽存储器3代配置相比,该系统可将权重传输能耗降低超过70%。
Apple Neural Engine: Architecture, Programming, and Performance3 months agohttps://arxiv.org/abs/2606.22283苹果神经引擎(ANE)是一种固定功能矩阵加速器,用于Apple A11至A18以及M1至M5芯片中。它可通过Core ML访问,但本文通过直接测量和静态分析,对其架构、编程和性能进行了逆向工程研究。文档涵盖数据路径、屋顶线模型、调度路径、编译器、磁盘程序格式、权重压缩以及内核驱动程序/固件。在M1和M5芯片上进行了直接测量,相关声明被归类为实测、反编译推导或预测结果。文中描述了一个未公开的用户空间可调用路径,仅供研究和测量使用,而非用于发布软件,Core ML仍是官方支持的途径。