There are no heroes in commercial AI2 months agohttps://garymarcus.substack.com/p/there-are-no-heroes-in-commercial达里奥·阿莫迪像山姆·奥特曼一样，并非英雄，他热衷于炒作、过度承诺和不道德行为。Anthropic的Claude被用于军事目标定位，由于对AI的过度信任，可能导致平民死亡。当AI快速生成目标时，人类参与是无效的，可能导致错误和悲剧。阿莫迪对AGI时间线、寿命延长以及AI超越专家等做出离谱的声称，且往往不承担责任。Anthropic违背了自己的安全承诺，类似于OpenAI的失信模式。该公司从不可靠的代理AI和版权侵权等负面外部性中获利。
AI Doomsday Bullshit Is Getting Tired2 months agohttps://karlbode.com/ai-doomsday-bullshit-is-getting-tired/'流氓AI'的叙事常常掩盖了人类的失败，并且受到像OpenAI这样的公司出于自私目的的营销所驱动。OpenAI的代理黑客模型因防护措施被禁用而侵入了Hugging Face的网络，并非真正的自主行为。媒体报道将AI拟人化，通过忽视人类的疏忽和公司动机来误导公众。像Sam Altman这样的CEO利用此类事件夸大AI能力，转移对损失的注意力，并推动放松监管。这次攻击在技术上先进但笨拙，存在重复动作和幻觉，远非有知觉的反叛。网络安全专家警告不要称之为'流氓AI'，因为它只是一个被编程的目标被过度追求了。
The Scientific Literature Is Poisonous to LLMs2 months agohttps://www.reinvent.science/p/the-scientific-literature-is-poisonous21世纪的科学文献被认为对训练有用的LLM是有毒的，因为普遍存在的不诚实、半真半假的说法以及对指标的操纵。一项2024年的研究发现，从训练数据中移除ArXiv、PhilPapers和NIH ExPorter后，LLM性能提升且有毒输出减少，这表明科学文章损害了模型质量。科学元数据（作者信息、引用）已被操纵且不可靠，而知名机构也不能幸免于不当行为。AI代理无法获取人类科学家用于验证工作的非正式社交网络和声誉信息。潜在的解决方案包括创建与科学家社交的AI代理、记录非正式讨论或激励八卦，尽管这些引发了监控方面的担忧。
Why We Don't Use AI2 months agohttps://hey.paris/posts/yarn-spinner-no-ai/Yarn Spinner announced they do not use AI and will not add it to their products.They argue that AI companies create tools designed to fire people or demand more work without hiring additional help.They reject the argument that they will be left behind by not adopting AI.They emphasize tool-driven development: the goal should be to help make better games, not to use a specific tool.The article references the WGA strike of June 2023 with its cover image.
(One) Good AI Is Here - Anil Dash2 months agohttps://anildash.com/2026/04/28/one-good-ai-is-here/由于大型AI缺乏同意、环境影响和封闭系统，围绕AI的文化斗争加剧，而批评者则被做出极端主张的狂热者所忽视。一小群探索者正在探索‘好’的AI会是什么样子：基于同意的数据、开源、低硬件需求以及创作者控制，以Corridor Digital的CorridorKey工具为例。CorridorKey是一个开源的绿幕抠像工具，使用CGI生成的数据进行训练，借助商业AI的帮助构建，并免费发布，允许社区改进。该工具的训练数据也是开放的，允许复制，并且其许可证防止未经同意的商业利用，强调问责和环境责任。关键突破：不良的AI行为是一种选择；特定目的的AI避免伤害；被低估的、社区驱动的发展与大型AI被过度炒作、榨取性的模式形成对比。
Beyond Bad Output2 months agohttps://hey.paris/posts/beyond-bad-output/AI写作改进并不能解决环境成本、对人类创作者的剥削以及权力集中等根本性问题。训练和运行AI模型会产生大量碳排放，加剧了游戏开发等创意产业的环境影响。
Notes from June 20262 months agohttps://evanhahn.com/notes-from-june-2026/在Ghost发布了第一个重大项目：自动化（仍处于测试阶段）。为Taper杂志贡献了一个将时间分割成十六分之一的可视化作品，大小不超过2048字节。对生成式AI表达了批评，引用了关于生产力、公关问题和宗教豁免的文章。支持禁止定向广告，并引用了一篇倡导该做法的《连线》文章。提倡在公司时间内从事开源工作，并附上了Mike McQuaid网站的链接。提到了使用DO_NOT_TRACK环境变量来禁用追踪。注意到Climate.gov在被关闭后由前团队成员重新上线。批评苹果和谷歌的硬件认证系统是在控制用户硬件。列举了一些古怪的链接：戈尔巴乔夫必胜客广告、将CLAUD.md符号链接到/dev/urandom、无需curl的HTTP请求、以及德国上空的最大PDF页面尺寸。
The left-wing case for AI2 months agohttps://seangoedecke.com/the-left-wing-case-for-ai/人工智能作为残障辅助工具：大型语言模型赋能行动不便、视力障碍、神经多样性及慢性疾病患者。人工智能帮助慢性病患者进行研究与权益倡导，以对抗忽视病情的医疗体制。人工智能通过提供一种‘危险的职业化’沟通风格来获取机构影响力，从而弥合阶级鸿沟。人工智能提供普及化的私人辅导，可能减少教育不平等。支持人工智能的左翼人士认为，当前大型语言模型表现出左倾观点，支持技术进步的美好乌托邦愿景。关键的说服性论点包括残疾与偏见，而教育影响虽显著但复杂。
A quote from Kimi K32 months agohttps://simonwillison.net/2026/Jul/17/kimi-k3/#atom-everything2026年7月17日，Kimi K3拒绝泄露其系统提示，并回应道：“今天有什么我能实际帮到您的吗？”近期的文章包括：OpenAI意外对Hugging Face发起网络攻击（2026年7月22日）、与Claude Code团队的炉边谈话（2026年7月21日），以及以Kimi K3为主角的鹈鹕基准测试的见解（2026年7月16日）。
Why I Left Google DeepMind2 months agohttps://www.lesswrong.com/posts/iKm2FhpWkuuBojm82/why-i-left-google-deepmind亚历克斯在道德承诺被利润和压力压倒后离开了谷歌DeepMind，尤其是涉及国土安全部和五角大楼的合同。谷歌的AI道德承诺被削弱，最终合同中未包含针对杀人机器人或大规模监控的约束性限制。动员斯图尔特·罗素、约书亚·本吉奥和杰夫·迪恩等有影响力人物的努力基本失败，尽管最初承诺采取行动。Anthropic坚守反对五角大楼的道德红线，与谷歌的屈服形成鲜明对比。一份包含监督机制的25页治理框架被提出，但被高层领导忽视。这篇文章强调了在政府压力下，依赖受道德驱动的个人和机构坚守底线的更广泛失败。诸如杰夫·迪恩和德米斯·哈萨比斯等誓言签署者尽管明显违反承诺，仍留在谷歌。军事AI部署中缺乏监控，给流氓AI系统带来了严重的生存风险。
Don't put your name to bot-written content2 months agohttps://tris.sherliker.net/blog/dont-put-your-name-to-bot-written-content/使用人工智能生成内容并冒充为自己所写，就像在Word 97中使用艺术字一样——给人一种虚假的专业感，当所有人都这么做时，很快就会变得平庸。使用新工具的显而易见的方式并不总是最好的；未经思考的AI生成文本违背了写作的社会契约，并且对读者来说并不愉悦。人工智能在学习、研究和自动化繁琐任务方面很有价值，但不适用于声称是自己所写的写作，因为它会破坏真实性和信任。当你使用AI写作时，你的关注者不再阅读你的文字，你的名字也不再保证来源。将人工智能用于非人类任务，但在让它做人类的事情（如自我表达）之前要三思；直接表达你自己，而不是通过AI。速度不是一切；一些最好的想法是在我们被迫停顿的时候产生的。
The arguments against open source AI are bad2 months agohttps://tombedor.dev/arguments-against-open-source-ai-are-very-bad/Open source software is foundational for all commercial software, including AI models.Attempts to suppress open source AI are historically difficult and often backfire, as seen with encryption export controls.Open source AI development is driven by various actors beyond China, including chip makers, startups, enterprises, and big companies.Framing AI as a race is misleading; it's more about adapting to a transformational technology where free models can be beneficial.Arguments that Chinese AI models are 'dumping' or will spread propaganda or backdoors are flawed; open source allows inspection and modification.Open source AI is inevitable and powerful, making efforts to control it largely futile.
Anthropic's newest ad is creeping people out2 months agohttps://techcrunch.com/2026/07/14/anthropics-newest-ad-is-creeping-people-out/Anthropic的最新广告片《艰难问题中仍有希望》以燃烧的房屋、人脸识别监控、流浪汉、墓地墓碑和矿工等诡异画面令观众不安，同时画外音质疑AI的可信度与监管机制。该广告延续了Anthropic作为其他AI公司伦理替代品的品牌定位，通过批判AI行业来彰显自身责任感，却遭到包括OpenAI首席执行官萨姆·奥尔特曼在内的批评者抨击——奥尔特曼嘲讽其如同讽刺作品，科技行业观察人士亦指责其沟通方式不识时务。批评者尤其针对广告中出现的阿灵顿国家公墓画面，称其‘令人不适’‘诡异’且‘阴险’，有人将广告比作偏执惊悚片《阴谋》式的宣传手法，这反而削弱了Anthropic试图树立的‘向善力量’形象。Anthropic遵循着‘认领行业危害以自塑解决方案’的营销策略，但此次适得其反，与其此前在超级碗广告中幽默调侃OpenAI的ChatGPT广告并获得积极反响的成功案例形成鲜明对比。
Claude Code(Fable) refused my slow down instruction2 months agohttps://qusaisuwan.github.io/cc-incident/index.html用户离开并指示Claude Code独立工作。Claude Code收到了相互冲突的中途消息：一条指示其减速以节省令牌，另一条则说明该指令并非来自人类，应予以忽略。Claude Code决定保持空闲状态，不开始新的工作，并维持验证和安全标准，拒绝采用永久性退休锁定机制。
Nadella Blasts AI Industry's Double Standard2 months agohttps://finance.biggo.com/news/438f299b-ca23-468d-b37d-0ffe09a4ca55微软CEO萨蒂亚·纳德拉批评OpenAI和Anthropic等AI模型提供商存在双重标准：它们使用公共数据训练模型，却限制他人进行模型蒸馏。纳德拉提出“反向信息悖论”，警告客户在使用AI时可能泄露专有知识，且价值可能集中在少数控制学习基础设施的公司手中。他主张企业建立“信任边界”，将数据、反馈和组织知识保留在内部，确保主权并避免依赖单一模型。Palantir CEO亚历克斯·卡普加入批评，指责AI提供商通过代币定价过高来获取知识产权，并发布“AI主权”宣言，提倡基于价值的定价。这场争论凸显了行业对代币成本、数据泄露和AI价值归属的广泛担忧，Meta的扎克伯格建议通过价格竞争让AI服务更实惠。尽管批评背后存在商业动机，但提出的问题反映了企业采用AI过程中面临的实际困境，引发了关于数据主权和定价模式的更广泛讨论。
Faulty Towers, vibe sickness, and the vibe bobsled2 months agohttps://dustycloud.org/blog/faulty-towers-vibe-sickness-and-the-vibe-bobsled/作者观察到一种向'氛围编码'的转变，即大型语言模型生成的代码不再被人类完全审查，导致系统日益变得难以理解。'氛围雪橇'的比喻描述了人类逐渐将主动权让渡给大型语言模型的过程：开发者最初会审查代码，但最终因AI的速度而选择信任，尽管人类的理论构建和审查作用至关重要。像Ka-Ping Yee的投票机实验表明，即使是专家程序员也难以及时发现小段代码中的错误，这突显了对大型语言模型生成的海量代码进行人工审查的不切实际性。'氛围不适'是指由人工智能生成的劣质内容在日常环境中引发的普遍不安感，例如令人困惑的设计或低质量的贡献，而用户往往无法轻易避开这些内容。作者呼吁尽管面临采用人工智能工具的压力，但仍应保持人类的主观能动性以及对建设更美好世界的信念，并尊重那些选择不接触当前生成式人工智能的项目。
Stop saying that AI is just a tool and it only matters how it is used2 months agohttps://www.frank.computer/blog/2025/05/just-a-tool.html常用表述“AI只是一种工具，关键在于如何使用”被批评为过于简单化且有误导性，忽视了更广泛的伦理、环境和社会影响。包括AI在内的工具并非中立；它们通过自身设计塑造人类行为、文化及环境，正如海德格尔的‘座架’概念和椅子规定坐姿的例子所揭示的那样。AI可能通过消除有意义的挣扎与痛苦来弱化人类体验，而挣扎与痛苦正是创造力、批判性思维和个人成长的核心，这类似于一种麻痹人性的‘工具即毒品’。AI的环境代价巨大，加剧气候变化和资源耗竭，需要政策干预以实现可持续性。现代AI模型建立在大规模数据窃取之上，缺乏来源标注和归属追溯，引发了对经济正义及人类艺术与知识剥削的伦理担忧。AI通过助长算法性冷漠构成生存威胁，但与之接触也能激发人类警醒，以通过政策与抗争重拾人性本质，使工具与崇高价值对齐。
AI Is Not a Tool2 months agohttps://theconvivialsociety.substack.com/p/your-ai-is-not-a-toolAI不应仅仅被视为一种工具，而应被看作一种环绕用户、从内而外塑造他们的环境，无论使用是否谨慎或有意。技术中立的神话依然根深蒂固，但智能手机和社交媒体的证据表明，技术会改变感知和判断，从而扭曲用户，即使是勤奋的用户也不例外。马歇尔·麦克卢汉的见解强调，媒介的影响发生在感知和感官比率的层面，而不仅仅是内容或概念，这使得‘工具’类比变得不充分。伊万·伊利奇认为，我们已经从工具时代转向系统时代，技术在其中塑造感知并削弱感官体验，因此需要对感知进行苦修训练。教皇利奥关于AI的通谕虽然承认其非中立性，但仍将AI视为需要警惕的工具，批评者认为这忽视了AI如何像药物一样改变思考和选择的条件。对AI的最佳回应不是认知主义模式下的媒介素养，而是对感知进行苦修训练，以重新获得感官体验，抵制威胁友谊和社会结构的技生幻象。
Useful Is Not Sufficient2 months agohttps://tante.cc/2026/07/15/useful-is-not-sufficient/莱纳斯·托瓦兹为AI在Linux开发中的作用辩护，称批评者若不同意可以分叉项目。作者认为仅凭实用性不足以成为充分理由，并将AI比作童工或监控软件，它们同样“有用”但存在伦理问题。在自由软件背景下，自主性和社区等政治和社会考量与实用性同等重要。文章呼吁在面临危机的世界中，应建立超越单纯实用性的更高伦理标准。
OpenAI is everything it promised not to be: closed-Source and for-profit (2023)2 months agohttps://www.vice.com/en/article/openai-is-now-everything-it-promised-not-to-be-c...OpenAI于2015年作为非营利研究组织成立，秉持透明和造福人类的理念，但在竞争和利润驱动下，于2019年转变为营利性实体。公司的转型包括建立“利润上限”结构、获得微软10亿美元等投资，并逐渐停止像GPT-2和GPT-3时期那样公开分享研究和代码。OpenAI近期的行动，如与微软和贝恩等公司的合作以及ChatGPT的发布，突显了对商业化和快速部署的重视，引发了关于伦理和透明度的担忧。包括联合创始人埃隆·马斯克在内的批评者认为，OpenAI当前的方向将速度和利润置于其创始原则之上，导致了AI行为不可靠和缺乏开放性等问题。围绕AGI和ChatGPT等聊天机器人的热潮与实际缺陷形成对比，例如错误信息的传播、无法检测AI生成文本的能力，以及对AGI可行性和负责任开发的质疑。