双语

Bio
a day ago
- 帕里斯·巴特菲尔德-艾迪森是一位游戏设计师、作家、艺术家和技术产品负责人，居住在塔斯马尼亚州霍巴特，专注于技术、政策和人类行为交叉领域的专业知识。
- 他共同创立了Secret Lab Pty. Ltd.，这是一家屡获殊荣的游戏开发工作室，以《林中之夜》而闻名；以及Yarn Spinner Pty. Ltd.，该公司创建了行业标准的交互式对话系统，被数千款游戏采用。
- 他拥有塔斯马尼亚大学计算机博士学位，专注于数字环境中的信息管理，并结合了法律和中世纪史背景。
- 帕里斯撰写了20多本技术书籍，独立开展人工智能治理研究，并经常在国际会议上发表演讲。
- 他积极参与社区领导工作，担任塔斯马尼亚游戏制作者协会主席和澳大拉西亚苹果大学联盟秘书，并负责组织/dev/world苹果开发者大会。
State of Play: How Australian States Are (Not) Governing AI
a day ago
- 新南威尔士州在人工智能治理方面最为积极，自2022年起实施了强制性政策，但在立法执行和实际AI使用透明度方面存在不足。
- 昆士兰州于2024年发布了AI治理政策，并就微软Copilot导致的数据暴露风险发出警告，但其政策不如新南威尔士州全面。
- 维多利亚州采用了国家AI保障框架，未制定自身政策，而南澳大利亚州等其他州注重经济机遇，西澳大利亚州、塔斯马尼亚州、首都领地和北领地则几乎没有或完全没有公开的AI治理措施。
- 州与联邦政府之间缺乏AI治理协调，导致治理空白、公民权利不一致以及可能出现监管套利——各州可能部署联邦政府避免使用的AI系统。
- 州政府在关键服务领域（教育、医疗、警务、交通、儿童保护、住房）部署AI系统，但治理框架缺乏一致性、记录不完善且缺乏公开透明度。
- 建议采取的行动包括：立法规范AI使用、公开AI系统、通过COAG/国家内阁进行全国协调、反映地方实际情况、为执行提供资金支持，并让受影响的社区参与其中。
Posts
a day ago
- 塔斯马尼亚绿党正在推动对北部塔斯马尼亚的人工智能数据中心进行紧急议会调查。
- 作者倡导塔斯马尼亚在人工智能方面的竞争优势，同时批评仓促、缺乏监管的发展。
- Yarn Spinner明确避免在其产品中使用人工智能，理由是创意工作中的道德和质量问题。
- 文章批评澳大利亚对16岁以下青少年的社交媒体禁令（将于2025年12月生效）理解不足且执行不力。
- 苹果礼品卡的一个严重问题导致用户整个苹果ID被锁定，凸显了大型科技公司客户服务的问题。
- 澳大利亚联邦银行因过度依赖人工智能而面临批评，导致客户服务失败。
China's Xi Jinping launches new AI alliance, WAICO
11 days ago
- 中国国家主席习近平在世界人工智能大会上呼吁开展国际合作，反对单一国家垄断，并强调人类掌控权的重要性。
- 中国联合29个创始成员国发起世界人工智能合作组织，旨在塑造全球人工智能监管框架，推动安全有益的技术发展。
- 分析人士认为北京正通过该组织影响联合国人工智能政策，在中美科技竞争中定位为全球南方国家的领导者。
- 中美竞争涵盖‘芯片战争’，尽管面临半导体限制，中国在人工智能数据中心、稀土矿产和电力供应方面仍具优势。
- 世界人工智能合作组织折射出中国输出人工智能治理规范的战略，以应对美国在全球科技标准制定进程中的退却态势。
Kilo Code has been acquired by Anaconda
13 days ago
- Anaconda收购Kilo Code，旨在解决企业AI数据和令牌可见性问题。
- 企业缺乏对AI令牌使用情况和数据安全的可见性，面临着支出失控和过度依赖单一模型提供商的风险。
- Kilo每月协调数万亿令牌的使用，突显了AI工作流程的规模及对统一管理平台的需求。
- 此次收购旨在消除AI开发速度与治理之间的虚假权衡，提供一个统一的平台。
- Anaconda提供可信的AI基础，而Kilo则增加了代理工程功能，使任何IDE和模型都能在治理框架下运行。
- 早期结果显示，通过Anaconda平台中的智能路由，令牌消耗减少了30-50%。
- 该愿景倡导开放、灵活的AI，避免供应商锁定，并将开源作为关键组成部分。
- 对于构建者，它提供带有治理的工具自由；对于领导者，则提供跨AI活动的统一可见性和政策执行能力。
- 该平台覆盖AI开发生命周期的全过程，强调企业级部署的速度、能力和信任。
You Cannot Defend What You Cannot Inspect
15 days ago
- CIRCUIT 是一个开源的 AI 可解释性治理框架，其发布旨在弥补当前 AI 治理实践中的不足。
- 当前的 AI 治理侧重于风险分级、注册机制和输出监控等外部控制，将模型视为黑箱，未解释模型做出决策的原因。
- 该框架强调可解释性，以在事件发生时提供帮助，使得能够理解模型的决策过程，而非仅仅关注所有权或部署细节。
- CIRCUIT 包含基于可检查性的成熟度上限（例如，开源模型比 API 或供应商嵌入式模型有更高的上限）以及与《欧盟人工智能法案》和 NIST AI RMF 等法规的对应关系。
- 它采用一份包含 29 个问题的供应商问卷，以凸显透明度差距，旨在在安全社区内推动对可检查模型的协调需求。
- CIRCUIT 在 Apache 2.0 许可下发布，开放供集体采用和贡献，并呼吁从业者针对实际部署进行测试和完善。
You Have an AI Working Agreement. Write It Down
17 days ago
- 一份AI工作协议将团队零散的AI使用规则整合为单一文档，详细说明授权委托、人工监督、审查流程、数据边界、所有权归属及修订程序。
- 团队已通过习惯和模板形成隐含的AI使用规则；将其成文化可避免员工流动导致的知识流失，并帮助新成员快速融入。
- 关键要素包括默认执行标准、硬性边界（数据、判断、人际关系）、现成模板、披露规范、问题升级路径和审查触发机制。
- 制定协议需收集现有决策、填补空白、分配所有权、设定修订规则，并选择便于访问的中央存储位置。
- 协议优势包括减少单点故障风险、保障决策一致性、确保符合组织政策，并促进团队协同与对AI产出的信任。
Ben Bernanke Joins Anthropic Oversight Trust
19 days ago
- 本·伯南克加入Anthropic的长期效益信托基金，旨在帮助确保人工智能的负责任发展，为人类的长期福祉服务。
- 伯南克的背景包括在2008年金融危机期间领导美联储，并荣获2022年诺贝尔经济学奖。
- 该信托基金独立运作，受托人不持有Anthropic的股权，其目标是在商业成功与社会公益之间取得平衡。
- 伯南克将就人工智能的经济影响贡献其专业知识，协助Anthropic的研究和治理决策。
AI 2040: Plan A
20 days ago
- AI公司正竞相开发超越人类智慧的AI，这可能导致人类灭绝或无法逆转的权力集中。
- 计划A提议将超级智能的研发推迟至2040年，使AI研究公开化，并促进全球合作以避免危险的竞赛。
- 该计划强调研究透明度、国际协议，以及跨多家公司和国家的缓慢而安全的超级智能扩展。
- 当前的AI发展缺乏充分的控制计划，如果不加以遏制，可能导致人类灭绝或全球独裁。
- 该情景包括一个时间表：2029年美中达成协议，2035年暂停开发达到人类专家水平的AI，2040年实现超级智能。
- 政策建议强调需要仔细审视情景并尽早开展谈判，以减轻AI驱动权力集中带来的风险。
- AI正在颠覆白领工作，AI公司正工业化训练流程，并加速各行业的自动化进程。
- 政治和公众的担忧日益增长，导致立法行动如2027年的《AI透明度法案》，但需要更雄心勃勃的措施。
If You Can Write Acceptance Criteria, You Can Write an AI Routing Policy
24 days ago
- AI路由策略是一个有文档记录的团队决策，它将特定任务分配给最具成本效益的执行路径，无论是更便宜的AI模型、前沿模型、确定性代码、人工审核还是无自动化，以确保问责制和可追溯性。
- 该策略要求为每个任务类别定义充分性标准——类似于验收标准的明确可接受输出标准，同时包括升级触发器和指定负责人来维护和执行策略。
- 在策略之外实施最小路由日志会创建实际使用情况、成本和结果的记录，从而实现任务类别归因和代币回报率（ROT）的计算，这有助于向财务团队证明AI支出的合理性。
- 一个关键见解是，路由决策应考虑任务每次是否需要概率性AI判断，还是可以通过一次性创建的确定性代码来处理，从而超越仅仅在AI模型之间进行选择。
- 该策略明确权衡了成本、质量、风险、吞吐量、自主性和适应性，将AI使用从临时习惯转变为受治理、可重复的过程，这些过程能够持续存在，不因个人离职而中断。
TinyRetroPad, a 2.5 KB 'Notepad' for Windows
a month ago
- 软银进军GPU租赁市场以支持美国的人工智能训练。
- 联合国警告，需要全球治理以防止因技术快速发展而引发的潜在人工智能风险。
- 甲骨文承认其以人工智能为重点的商业战略中存在多个风险因素。
- Claude Sonnet 5.0通过优先考虑安全性和成本效益而非网络安全来避免争议。
- Anthropic正在停用用于监视中国竞争对手的秘密代码。
- 俄罗斯网络钓鱼攻击假冒Signal支持，而美国则针对伊朗的宣传网站。
- 微软的补丁未能修复针对本地SharePoint的零日攻击，同时中国正在增强其监控工具。
- DEF CON的Franklin项目招募黑客以加强关键基础设施，其范围已超越投票村庄。
- EQT以超过35亿美元的估值收购了Acronis的多数股权。
- 勒索软件在十年后仍然存在，但网络安全领域提供了稳定的职业前景。
- Collabora发布CODE 26.04，在FOSS办公套件中加入了Markdown支持和可选的人工智能功能。
- GIMP 0.54通过Flatpak为使用Motif的复古计算爱好者复活。
- Bcachefs离开了实验状态，虽然性能有所提升，但面临着与人工智能相关的挑战。
- 法国的数字主权努力在与微软的垄断斗争，尤其是在办公软件方面。
- CentOS从一项业余爱好项目发展成为关键的企业操作系统，这是社区对红帽转变的回应。
- Netflix工程师开源了Project Headroom，旨在显著降低人工智能成本。
Oracle outlines all the ways it could lose the farm it bet on AI
a month ago
- 联合国警告称，全球治理的迫切需求在于防止人工智能相关灾难，因为其能力已超过安全法规的限制。
- 甲骨文披露了可能危及其对人工智能技术重大投资的多项风险因素。
- Anthropic 正在移除先前用于检测中国竞争对手的隐藏代码，理由是计划停用隐写系统。
- Cloudflare 将屏蔽从广告支持网页抓取内容的机器人，以平衡搜索可见性与人工智能训练数据的保护。
- 俄罗斯行为者冒充 Signal 支持进行钓鱼攻击；美国破坏了伊朗的宣传网站。
- 微软的补丁未能解决本地 SharePoint 零日攻击问题，而中国则增强了智能手机监控工具。
- DEF CON 的弗兰克林项目招募黑客以加强关键基础设施，从成功的投票村倡议中扩展而来。
- EQT 以超过 35 亿美元的估值收购了 Acronis 的多数股权，增加了网络安全投资。
- Mikko Hyppönen 纪念企业勒索软件诞生十周年，预测其无休无止，但强调了信息安全职业的稳定性。
- Collabora 发布了具有 Markdown 和 AI 功能的 CODE 26.04，加剧了 FOSS 办公套件之间的竞争。
- GIMP 0.54 通过 Flatpak 为复古计算爱好者重新启用，使用原有的 Motif 工具包。
- Bcachefs 在注重性能的版本中退出实验状态，整合了更多 Rust，但面临与人工智能相关的挑战。
- 法国数字主权努力在减少对微软依赖方面遇到困难，Nextcloud 存储的采用与 Office 迁移障碍形成对比。
- CentOS 从一名生物化学家的爱好演变成企业默认系统，其背后是社区对红帽支持 Windows 的回应。
- 一位 Netflix 开发者开源了 Headroom 项目，这是一个旨在显著降低人工智能运营成本的应用。

Hasty Briefsbeta

ai governance

Bio

State of Play: How Australian States Are (Not) Governing AI

Posts

China's Xi Jinping launches new AI alliance, WAICO

Kilo Code has been acquired by Anaconda

You Cannot Defend What You Cannot Inspect

You Have an AI Working Agreement. Write It Down

Ben Bernanke Joins Anthropic Oversight Trust

AI 2040: Plan A

If You Can Write Acceptance Criteria, You Can Write an AI Routing Policy

TinyRetroPad, a 2.5 KB 'Notepad' for Windows

Oracle outlines all the ways it could lose the farm it bet on AI