本项目展示了个人进行高性能大语言模型(LLM)训练已成为可能。作者通过采用严格的软件工程方法(特别是配置驱动框架),以低于 1000 美元的成本训练了一个 38 亿参数的模型,其性能显著超越了 OpenAI 2019 年的 GPT-2(15 亿参数)。
**关键技术要点:**
* **优化:** 模型采用了 FP8 训练、词表填充和融合交叉熵(fused cross-entropy)来最大化吞吐量。切换为“梯形”学习率调度策略,避免了训练后期出现的性能停滞。
* **Muon 优化器:** 在矩阵参数上使用 Muon 优化器表现优于传统的 AdamW,尽管增加了计算成本,但加速了收敛。
* **基础设施:** 将训练过程视为“三行 YAML 差异(diff)”而非手动修改代码,从而实现了快速实验与调试。
* **值嵌入(Value Embeddings):** 增加查找表带来了明显的性能提升,且对训练吞吐量的影响微乎其微。
* **经验总结:** 当使用个人资金时,吞吐量至关重要;如使用 `bf16` 主权重或积极管理批量大小等简单调整,极大地延长了预算的使用寿命。
本项目证实,现代硬件和优化技术已将 LLM 研究的“前沿”从大型实验室带到了个人工程师手中,证明了小规模、有条理的训练也能产生令人惊叹的强大成果。
近期的一个 Linux 漏洞凸显了标准 Docker 配置中的一个重大安全缺陷:被添加到 `docker` 组的用户可以无需身份验证,轻松获得宿主机的 root 权限。这是由于 Docker 的客户端-服务器架构导致的,其守护进程以 root 身份运行并通过套接字接收请求;如果用户有权访问该套接字,便可以利用宿主机的全部权限执行命令。 尽管这种方式很方便,但绕过 `sudo` 要求会带来巨大的安全风险。虽然 Windows 和 macOS 上的 Docker Desktop 通过虚拟化技术在一定程度上缓解了该问题,但 Linux 环境仍然极易受到攻击。 为应对这些风险,作者建议采用“无根(rootless)”容器方案: * **Rootless Docker**:将守护进程作为用户级服务运行,但设置过程可能较为复杂。 * **Podman**:一种无守护进程、以安全为重点的替代方案。由于它在用户自身的权限下运行容器,从而消除了提权至 root 的路径。尽管 Podman 需要对工作流程进行细微调整(例如使用完整限定的镜像名称以及为持久化容器配置 systemd),但它提供了一种安全性显著增强的架构。 综上所述,虽然某些工作流程需要 Docker 的特定 API,但转向无根容器是保护宿主机免受未经授权的 root 访问的重要举措。
正在检查您的浏览器...需要启用 JavaScript。
《相对论公园》是一个交互式模拟程序,通过将光速降低至人类可感的每小时 5 公里,将狭义相对论的原理可视化。通过在这一虚拟环境中行走或移动,用户可以观察到日常生活中通常不可见的相对论现象。 随着你向光速加速,模拟程序会展示关键的效应:物体的**长度收缩**、你的手表与“世界时钟”之间的**时间膨胀**、**相对论性光行差**(视野的偏移),以及**多普勒颜色偏移**。你前方的物体会发生蓝移并被压缩,而身后的物体则表现为红移并被拉伸。用户可以切换各项独立效应——例如光传播延迟、光束效应和光行差——从而分离并理解每种效应如何导致这些视觉扭曲。 虽然该模拟程序优先考虑教学准确性,但也简化了某些极端条件。例如,它忽略了在此类速度下会发生的物理破坏,并对极端的频谱偏移使用了近似的颜色编码。总的来说,《相对论公园》提供了一种直观的、亲身实践的方式,来体验爱因斯坦理论所描述的光与运动之间复杂且反直觉的行为。
由于乌克兰和伊朗冲突带来的地缘政治持续不确定性,石油交易商正越来越多地避开长期期货,转而青睐短期头寸。摩根士丹利的布伦丹·罗斯(Brendan Ross)表示,这种转变反映了交易商为降低风险并避免暴露于不可预测的市场波动之中,从而导致长期合约的流动性下降。
与此同时,投机者对汽油和柴油等成品油持强烈的看涨态度。对冲基金已转为净多头头寸,押注燃料市场将出现供应紧张,因为全球产能难以弥补来自俄罗斯和中东的潜在供应中断。由于美国的这些燃料库存已处于低位,分析师预计这种看涨情绪将持续下去,因为市场目前尚无法轻易弥补损失的产量。
你可能听说过霍纳法则(Horner's method),它能在 $n$ 次乘法内求出一个 $n$ 次多项式的值(如果是首一多项式则需 $n-1$ 次)。但你知道吗?通过对系数进行预处理,任何首一多项式仅需 $\lfloor n/2 \rfloor + 1$ 次乘法即可,一般多项式则只需多加一次。你可以利用这一方法来近似计算 exp、sin、cos 等函数,或在密码学、哈希及编码理论中进行多项式求值。只需在下方输入多项式并选择域,我们就会为你进行预处理。
英矽智能(Insilico Medicine)利用人工智能设计的药物 **rentosertib**,在针对特发性肺纤维化(IPF)和生物衰老方面展现出良好的潜力。该药物最初旨在治疗肺部纤维化,其作用机制是通过抑制与纤维化及衰老相关的 TNIK 酶。
在一项涉及 42 名受试者的 IIa 期临床试验中,研究人员对患者的血样应用了六种不同的“衰老时钟”。结果显示,与安慰剂组相比,所有六种模型均检测到受试者的生物学年龄有所下降。此外,患者的肺功能(通过用力肺活量 FVC 衡量)也得到了显著改善。
虽然该研究尚未明确证明 rentosertib 能延长人类寿命,但结果表明,人工智能可以有效识别治疗靶点,并设计出针对衰老标志物的分子。目前,该药物已进入涉及 320 名患者的 III 期临床试验,以进一步评估其治疗 IPF 的安全性和有效性。如果获得成功,rentosertib 将成为人工智能驱动药物研发的一个里程碑,验证了一种通过同时靶向特定疾病和潜在衰老生物标志物来治疗年龄相关疾病的新方法。
Automattic 创始人兼首席执行官 Matt Mullenweg 已被公司董事会强制要求带薪休假。首席财务官 Mark Davies 已被任命为临时首席执行官。Mullenweg 公开将董事会的这一决定描述为背着他策划的“阴谋”,并声称在决议通过前,他未获得咨询法律顾问的时间。 尽管 Automattic 证实了此次休假,但董事会尚未公开具体原因。然而,该公司近期面临严重的动荡,包括与 WP Engine 备受瞩目的法律纠纷、关于版税要求的内部争议、2025 年初 16% 的裁员,以及与开源社区之间的高风险争端。尽管商业实体发生了上述变动,但 WordPress.org 的领导层表示,开源项目不受影响,Mullenweg 将继续领导该计划。 Mullenweg 仍是 Automattic 董事会成员,但在持续的不稳定局势下,他在该公司(拥有 WordPress.com、Tumblr 和 WooCommerce)的未来仍然充满不确定性。
NextEra Energy 已获得美国能源部 19 亿美元的贷款,用于重启位于爱荷华州、装机容量为 615 兆瓦的杜安·阿诺德(Duane Arnold)核电站。该设施因 2020 年的强风暴受损而关闭,预计将在与谷歌签订为期 25 年的购电协议(PPA)后,于 2029 年恢复运营。
这一举措是超大规模科技公司为满足数据中心巨大电力需求而寻求核能这一广泛趋势的一部分。微软(三哩岛核电站)、Meta(克林顿清洁能源中心)和亚马逊云科技(Susquehanna 核电站)近期也达成了类似的协议。
美国能源部的这笔投资是同类核电重启项目中的第三笔,反映了联邦政府振兴美国核电储备的意图。通过修复杜安·阿诺德核电站,政府旨在降低电力成本、创造就业机会,并提供可靠的基荷电力,以支持国家日益增长的再工业化进程和能源需求。
请启用 JavaScript 和 cookie 以继续。
在这篇文章中,一位专注于人工智能蛋白质设计的计算生物学家挑战了诺亚·史密斯(Noah Smith)等人推崇的危言耸听的论调,即人工智能将很快使个人能够制造出毁灭文明的超级病毒。 作者认为,设计功能性生物系统极其困难,即便是资深专家也面临挑战,且必须依赖基本的生物学权衡。高致死率的病毒(如埃博拉)通常难以有效传播,而高传染性病毒(如麻疹)则很少具有足以导致社会崩溃的致命性。此外,理论上能够从“静默传播”切换为“高致死率”的病毒缺乏已知的生物学机制,这使得“人工智能超级病毒”的设想更像是科幻小说,而非科学现实。 作者指出,这些叙述是旨在博取关注的“恐惧兜售”,分散了公众对现实中可预防的生物威胁的注意力,例如新发病原体、疫苗接种率下降,以及艾滋病或麻疹等现有疾病。作者主张,与其纠结于投机性的人工智能风险,不如关注那些枯燥但有效的解决方案:健全的公共卫生基础设施、持续的疫苗接种以及更好的监测。归根结底,作者认为我们应该关注已知的病毒,而不是人工智能炒作下制造出来的病毒。
MSC工业公司高管玛蒂娜·麦克伊萨克(Martina McIsaac)警告称,严重的钨供应短缺正持续推高北美工业工具的成本。受中国出口限制及其近乎垄断的生产地位(去年占全球产量的79%)影响,钨基原材料的价格已飙升了高达500%。
尽管钨价已开始企稳,但由于制造商仍在传导滞后的成本上涨,供应链中的“涟漪效应”依然存在。MSC预计价格上涨将持续至2026年初。这场危机凸显了西方制造业和国防供应链的关键脆弱性:中国自2025年2月起实施的出口许可要求导致全球供应量大幅下降,并引发了恐慌性囤货。
这种情况已促使西方各国竞相寻求非中国产的钨源。分析人士强调,随着各行业努力推动供应链与中国“脱钩”,那些能够向市场提供替代供应的企业(例如正在提高产量的韩国相关企业)将获得显著的竞争优势。
Meta 近期因接管 @muse 社交媒体账号而备受指责。该账号原属于英国摇滚乐队 Muse,现被 Meta 用于推广其同名的 AI 代理。在 Meta 正式宣布该 AI 之前,粉丝们发现该乐队被迫将其 Instagram 和 X 账号更改为 @museband,Meta 高管最初在宣传该 AI 的帖文中甚至误标记了乐队的旧账号,引发了不小的困惑。 尽管这些账号变更的具体内情尚未公开,但这已是这家科技巨头一贯做法的冰山一角。此前,Meta 也曾在重大企业公告发布后不久,便从小型实体手中获取了 @Meta 和 @threads 账号。这些事件凸显了“企业巨头”与独立用户之间的权力不对等,引发了关于平台对数字身份控制权的持续伦理质疑。虽然 Meta 官方禁止买卖用户名,但其单方面征用账号的能力(往往没有任何公开解释)依然令创作者和粉丝感到不满。埃隆·马斯克的 X 平台也存在类似做法,这进一步说明了在大型平台上维护高价值社交媒体账号的不稳定性。
一个联邦上诉小组似乎倾向于支持华盛顿特区的《清洁建筑法案》。该法案要求到2027年新建建筑必须达到零能耗标准,这实际上禁止了大多数天然气设备的使用。
这场法律斗争的核心是《能源政策与节能法》(EPCA),该法案授权能源部对设备能效进行监管。包括住宅建筑商和餐饮协会在内的行业团体认为,华盛顿特区的建筑规范是一种绕过联邦权力的变相手段。他们主张,如果联邦政府已经对这些设备进行了监管,地方司法管辖区就无权将其禁止。
此案凸显了联邦法院之间日益加剧的分歧。第九巡回法院此前曾否决了加利福尼亚州伯克利市的一项类似禁令,裁定地方政府不得通过限制燃料来源的方式来规避联邦设备标准。相反,第二巡回法院最近支持了纽约类似的限制措施,裁定EPCA并未阻止各州全面禁止特定设备。
由于华盛顿特区巡回法院对挑战者持怀疑态度,天然气行业正面临着碎片化的监管环境。最终裁决将决定华盛顿特区的2027年标准能否维持,以及第九巡回法院的先例在关于能源政策中地方与联邦权力之争的辩论中,是否会继续成为一个特例。
``` Chyuang 返回 高斯溅射 键盘 正在加载溅射… 点击以激活 输入以按键 · 拖动 = 旋转 · 滚轮 = 缩放 · Shift+拖动 = 平移 · Esc 键以释放 声音开启 ▌ 键盘 - 分割前 正在加载溅射… 高斯溅射 ```
认知研究团队的 Eric Lu 最近领导了一个项目,成功分解了 260 位的 RSA-260 数字,刷新了 RSA 分解挑战的公开纪录。该项目耗资约 40 万美元的 GPU 计算时间,利用了一种基于通用数域筛法(GNFS)的全新高性能 GPU 实现方案。 该项目主要由名为“Devin”的自主软件工程智能体执行。在 Lu 的指导下——包括设定优先级、建立基准以及纠正低效工作——Devin 成功开发、优化并管理了复杂的计算流程。这种方法使团队在三周内完成了一项以往需要领域专家耗时数月才能完成的任务。 Lu 强调了两个关键结论:虽然超大规模计算服务商可能以约 3000 万美元的成本分解 RSA-1024 数字,但 RSA-2048 对此种方法而言依然在密码学上保持安全。此外,该项目证明了自主智能体已显著降低了大规模科学计算和密码分析的门槛,使得非专业人士也能解决以往无法触及的复杂计算问题。
高盛位于达拉斯的新园区占地80万平方英尺,目前已接近一个重要里程碑:大楼外观即将完工,内部装修工程即将启动。这个耗资5亿美元的项目计划于2028年1月开放,届时将把该公司在当地的员工整合至其全球最大的办公空间,规模甚至超过了曼哈顿的总部。该基地设计可容纳超过5000名员工,反映了高盛在北得克萨斯州扩张的战略重心。
高盛的投资凸显了一个更广泛的趋势,即大型金融机构正纷纷迁往得克萨斯州,以利用该地区充满活力的经济优势。其他行业巨头也紧随其后:摩根士丹利计划在2031年前在达拉斯建立一个耗资5.87亿美元的枢纽,而阿波罗全球管理公司等机构则在奥斯汀进行扩张。此外,随着得克萨斯证券交易所的筹建,该州的金融基础设施也得到进一步加强。在纽约等传统金融中心员工增长停滞之际,得克萨斯州已成为金融企业寻求长期增长与创新的首选目的地。
请启用 JavaScript 和 Cookie 以继续。
华盛顿大学计算机科学教授斯图尔特·雷格斯(Stuart Reges)在经历了一场漫长的宪法第一修正案法律诉讼后,与校方达成了一项 60 万美元的和解协议。冲突始于雷格斯拒绝在他的教学大纲中加入校方推荐的“原住民土地致谢词”,转而发表了一份异议声明,引用约翰·洛克的劳动财产理论,质疑海岸萨利希人(Coast Salish)对该土地的历史主张。
作为回应,校方称其声明具有“冒犯性”,将其从教学大纲中删除,并向他的学生发送电子邮件,就其观点表示道歉,同时提供了投诉指南。校方还进一步设立了一个“影子”课程班,以便学生避开他的讲座。
雷格斯提起诉讼,指控校方存在观点歧视和报复行为。第九巡回上诉法院最终裁定其胜诉,认定大学管理人员侵犯了他的言论自由权。尽管该和解协议结束了诉讼,并保护雷格斯免受进一步报复,但作者指出,没有任何管理人员因公共资金的巨额支出或对学术自由的压制而承担个人责任。该案件是对高等教育中盛行的意识形态正统文化的一次显著但孤立的挑战。
在这个项目中,“LabGuy”旨在利用 Eric Schlaepfer 设计的“Tiny TV Mark 2”光栅化板和高压驱动电路,在各种古老的静电式阴极射线管(CRT)上显示视频。
该项目凸显了将低压视频信号转换为驱动 CRT 偏转板和阳极所需的数千伏高压这一技术挑战。在整个过程中,LabGuy 尝试了多种老式显像管,包括 3JP7 雷达管、1EP1、3UP1 以及 1937 年产的史诗级 RCA 913,并探索了它们独特的荧光粉特性和接线要求。
该项目面临了诸多障碍,包括驱动组件损坏以及在调试过程中丢失了主要的示波器。为了克服这些问题,LabGuy 设计了自己的高压差分偏转放大器,从而实现了对不同类型显像管更好的信号控制和灵活性。尽管处理高压电路和老旧硬件存在固有复杂性,但该项目成功证明了这些已有近 80 年历史的古董 CRT 仍可用于矢量图形和视频显示。该项目是对老式 CRT 技术、荧光粉余晖以及模拟电子设计复杂性的一次深入研究。
美国一家上诉法院一致裁定,美国国税局(IRS)不得与美国移民及海关执法局(ICE)共享非法移民的地址。法院维持了地方法院的判决,认为国税局的数据共享政策违反了美国税法第6103条,该条款对纳税人信息的披露有着严格的规定。
法院驳回了政府的辩解,指出该数据共享协议未能达到法律标准。具体而言,法律要求请求方机构必须明确纳税人身份,并提供具体刑事调查的详细信息。合议庭发现,ICE的做法——包括将同一人列为超过128万份请求的联系人,且未能提供必要细节——无法确保请求数据的官员是“亲自且直接参与”相关调查的。
倡导团体称赞这一裁决是纳税人隐私保护的一项重大胜利。尽管美国国土安全部对该裁决表示不赞同,但声明称,这一裁决不会阻碍他们定位和驱逐持有最终遣返令人员的整体工作。
《南方公园》主创马特·斯通与特雷·帕克宣布,该剧第29季将更名为《南美洲》(South America)。这是对唐纳德·特朗普总统近期试图将安大略湖和墨西哥湾等地理地标改名为“美国湖”和“美国湾”的讽刺。 主创人员将这一改名行为定性为“勇敢与爱国”的举动,以此嘲讽苹果和谷歌等科技巨头顺应政府改名要求的做法。此次宣布正值该剧近期斩获艾美奖之际,其中还包含对该剧母公司派拉蒙的挖苦,鉴于其充满争议且面临法律挑战的合并案,主创将其称为“天空之舞(Skydance)式投降”。 《南方公园》长期以犀利的政治讽刺著称,在特朗普执政期间曾多次将其作为攻击对象,并常招致白宫的严厉斥责。目前尚不清楚这一更名是永久性的,还是仅为9月16日新一季首播前的造势噱头。
随着中期选举临近,数据中心的迅速扩张已成为一个充满争议的政治议题。以众议员亚历山大·奥卡西奥-科尔特斯(Alexandria Ocasio-Cortez)和参议员伯尼·桑德斯(Bernie Sanders)为首的进步派议员提议实施全国性暂停令,而特朗普总统和副总统候选人万斯(JD Vance)则主张数据中心是推动经济增长和国家安全的关键动力。
地方层面的抵制浪潮正在高涨,实施暂停令的地区从6月的92个攀升至夏末的374个。受电力成本、电网容量和用水量等问题的困扰,这种被比作以往反天然气运动的基层反对声浪,已导致多个项目严重延误或取消。包括摩根士丹利在内的主要金融分析师警告称,这种不稳定性正威胁到“人工智能交易”及长期基础设施投资。
尽管目前形势紧张,许多分析人士仍认为,这种敌意很大程度上是由选举驱动的,11月后可能会有所缓和。虽然数据中心建设的“无监管时代”即将结束,但专家指出,政府的介入最终可能会为负责任的项目创造一个更稳定的环境。然而,结果仍是一个关键风险因素,因为政治掌控权的重大更迭可能导致限制性政策出台,从而威胁到国内人工智能建设和整体经济增长。
AF_VSOCK 是一种 Linux 地址族,专为虚拟机与宿主机 Hypervisor 之间的通信而设计,其功能类似于 Unix 或 TCP/UDP 套接字。尽管该技术自内核 4.8 版本起已趋于稳定,但此前一直缺乏高级抽象库,开发者不得不手动管理底层的套接字操作。 为了解决这一问题,`libzmq` 现已实现对 VSOCK 的支持,使开发者能够在 VSOCK 上利用 ZeroMQ 的消息模式(如 REQ/REP、PUB/SUB)以及 CurveZMQ 等安全功能。通过对套接字进行抽象,此次集成让任何拥有 ZeroMQ 绑定的语言(如 Python、Ruby 和 Go)都能使用 VSOCK,并简化了身份验证和异步通信等复杂任务。 自 Linux 5.6 版本起,`VMADDR_CID_LOCAL` 的引入支持了无需虚拟机即可进行的环回测试。虽然目前尚未完全集成至 `libzmq` 的正式版本中,但已有一个 `pyzmq` 分支可供即时使用这些功能。这一进展极大地提升了在宿主机与客户机环境之间构建安全、高性能通信通道的便捷性。
由杰克·多西(Jack Dorsey)领导的支付公司 Block 已向美国货币监理署(OCC)提交申请,计划成立一家受联邦监管的全国性信托银行——“Builders Bank & Trust”。
与传统商业银行不同,该拟议机构将不接受存款也不发放贷款。其业务将专门专注于为比特币和稳定币提供托管及信托服务。Block 希望通过获取这一特许牌照,在扩大其数字资产业务规模的同时,获得统一的全国性监管框架。该银行将由 Block 数字资产战略负责人李·伍利(Lee Woolley)领导,并将借鉴该公司运营其现有工业银行 Square Financial Services 的经验。
Block 的这一举措反映了金融科技和加密货币公司寻求全国性信托牌照以实现业务合法化的行业大趋势。包括瑞波(Ripple)、Circle、BitGo、Kraken 和 ZeroHash 在内的其他公司也纷纷效仿,寻求或已获得此类牌照,以应对不断演变的监管环境。
Automattic 首席执行官兼创始人 Matt Mullenweg 已被公司董事会停职留薪。Mullenweg 通过 Slack 向员工宣布了这一消息,并声称首席财务官 Mark Davies 与董事会成员合谋,在未给予法律审查时间的情况下将其罢免。Davies 已被任命为临时首席执行官,但公司表示 Mullenweg 将继续留任董事会。 此举发生在该公司经历了一段围绕 Mullenweg 领导风格的重大争议之后。近期,他陷入了与 WP Engine 之间备受瞩目的法律纠纷,并因其激进的管理策略而受到批评,其中包括引发数十名员工辞职的“一致性提议”,以及威胁解雇与媒体交谈的员工。 尽管领导层表示打算维持业务正常运作,但此次权力更迭是在多年公开争端和造成内部矛盾的政策之后发生的。Mullenweg 本人及公司代表均未对此事作出进一步评论。
俄罗斯联邦机构“俄罗斯合作署”新任署长伊戈尔·柴卡(Igor Chaika)在最近一场新闻发布会后,意外成为了网络红人。这位身材魁梧的官员在谈及俄罗斯与亚美尼亚紧张关系时,其照片在社交媒体上引发了一波嘲讽和迷因创作。
网民们将柴卡壮硕的体型与漫威反派“金并”(Kingpin)相提并论,并戏称俄罗斯总统普京恐怕很难将他“扔出窗外”——这暗指了俄罗斯官员在神秘情况下坠楼身亡的严峻现象。
尽管遭到网络嘲笑,但身为前总检察长尤里·柴卡之子的柴卡仍专注于简报内容。他否认了俄亚外交破裂的传言,称两国为“大家庭”,并宣布了在当地扩大俄罗斯文化影响力的计划。互联网对这位商人身材的痴迷是否会持续尚不得而知,一些用户甚至打趣地猜测他可能会转行。