本文挑战了视觉Transformer (ViT) 因二次自注意力机制而难以处理高分辨率图像的观点。作者认为，ViT能够很好地扩展到1024x1024像素²，足以满足大多数图像编码任务。跨不同GPU的基准测试表明，ViT比同等CNN更快，内存效率更高，尤其是在较新的硬件上。
作者还强调，高分辨率并非总是必要的，认为对于许多任务来说，较低分辨率(224-896像素²)就足够了，因为计算机视觉模型不需要人类那样高的审美细节。高分辨率下的性能提升往往是由于模型容量（FLOPs）的增加，而不是仅仅由于分辨率的提高。
此外，文章还重点介绍了局部注意力机制，例如ViTDet中的机制，它通过将注意力限制在局部窗口内来提高ViT在高分辨率下的速度和内存效率。作者总结道，ViT是一种可行且通常优于CNN的替代方案，提倡通过实证评估来克服先入为主的局限性。
每日HackerNews RSS
Hacker News 的讨论线程关注了视觉Transformer (ViTs) 和卷积神经网络 (CNNs) 的速度和实用性，尤其是在处理高分辨率图像方面。原文认为，对于高分辨率图像，使用 ViTs 通常是不必要的，降低图像分辨率就足够了。
评论者对此提出了质疑，认为 1024x1024 并不算真正意义上的“高分辨率”，并且某些应用，例如对 4096x2048 的图像进行细致细节的图像分类，需要全分辨率处理。一些人建议将高分辨率图像分割成小块或裁剪后再进行处理，但同时警告说，这种方法并不总是等同于处理整张图像，并且可能会引入伪影或影响归一化统计数据。
该线程还涉及到在 ViTs 中使用图像金字塔和自适应采样，不过一位用户告诫不要使用过于复杂的方法，例如强化学习。讨论强调了在图像分辨率、计算成本和特定应用需求之间取得平衡的重要性，并指出架构和数据质量都是影响模型性能的关键因素。
1968年，Codd提出的元胞自动机（CA）旨在简化冯·诺依曼的自复制元胞自动机，减少所需状态数。冯·诺依曼使用了29个状态，而Codd仅用8个状态就实现了计算和构造的普适性。Codd证明了在他的元胞自动机中存在自复制机器的可能性，其灵感来自冯·诺依曼的普适构造器，但完整的实现直到很久以后才完成。
其他研究人员进一步简化了这一概念。Banks创造了一个具有普适计算和构造能力的4状态元胞自动机，但它不能自复制。Devore缩小了Codd设计的规模，并在1992年通过模拟演示了后代的构建。Langton在1984年创造了具有更少细胞的自复制循环，但牺牲了普适计算能力。基于王氏W机的Codd自复制计算机最终在2009年由Hutton实现，后者纠正了Codd原始设计中的细微错误。
这个Hacker News帖子讨论了Codd元胞自动机（CA），链接到一篇维基百科文章。一位名为da-bacon的用户回忆起他受到Stephen Levy的《人工生命》一书的启发，书中包含Codd的CA和Langton环的图像。da-bacon成功地推导出了Codd CA的规则，并强调了这是一次有益的智力体验。
另一位用户mcphage询问了Codd CA和Langton环的区别。zitterbewegung解释说，Langton简化了规则集，牺牲了通用计算能力，但保留了自我复制能力。mcphage认可了这个解释。帖子中还包含了旧金山一所AI创业学校的广告。
请提供需要翻译的内容。
这个Hacker News帖子讨论了一篇关于德克萨斯州摇头丸帝国的文章。评论者们转而讨论负责任的吸毒行为，特别是摇头丸。一位用户表达了偶尔使用摇头丸的愿望，但惋惜人们要么完全戒掉，要么沉迷其中。
其他人也有类似的感受，一些人描述了他们自己使用摇头丸和其他毒品的经历，强调负责任的消费习惯，例如检测物质和控制频率。几位评论者就摇头丸的潜在神经毒性进行了辩论，引用了研究和个人轶事。一些人认为偶尔使用风险极小，而另一些人则指出存在潜在的长期损害的证据。谈话还涉及大麻的合法化以及成年人中休闲吸毒的普遍性。
TScale是一个基于C++/CUDA的Transformer库，旨在高效地在消费级硬件（特别是NVIDIA GPU）上进行大型语言模型（LLM）的训练和推理。它通过优化的架构、更快的收敛速度、降低的注意力计算成本以及对FP8/INT8精度的支持来实现这一点。
主要特性包括：CPU卸载以减少GPU内存占用；在同构主机上进行同步分布式训练；在异构的、地理位置分散的主机上进行异步分布式训练，并使用1比特梯度压缩以最大限度地减少网络开销。
TScale展示了一种新颖的“模型大小”方法，它使用一个较小的模型配合一个巨大的（1TB）索引进行token预测，从而显著降低了困惑度。
编译需要CUDA v12.3和C++编译器（Windows使用MSVC，Linux使用CMake/Clang）。训练使用脚本进行数据处理和模型训练，分布式训练支持`pow2`数量的工作主机。每个工作主机可以使用多个GPU。
推理通过`gpt_infer`启用，这是一个提供模型延续的基本HTTP服务器，但目前它针对演示而非速度进行了优化。
Hacker News 上的一个帖子讨论了“TScale”项目，该项目旨在利用消费级 GPU 进行分布式 AI 训练。一位用户报告了一个文件丢失。几位评论者批评了该项目过早发布和代码质量，包括一个不必要的键值解析器实现。有人建议这可能是由 LLM 编码导致的，因为它倾向于使用复杂的解决方案。另一位评论者认为，在 C/C++ 中，由于依赖管理方面的挑战，这种情况很常见，同时有人建议使用 CMake 和 conda 来解决这个问题。用于减少模型大小的“1T index”技术也受到了质疑，一位用户猜测它是通过前缀树进行泛化的。用户们讨论了如何在多个主机之间划分推理任务以及如何解决网络瓶颈问题，一些人建议使用 prima.cpp 等工具，这是一个 llama.cpp 的分布式实现。ASML 在 AI 硬件中的作用以及限制其技术的影响也引发了辩论，承认了复杂的全球供应链所带来的影响。
请启用JavaScript和Cookie以继续
一台人工智能驱动的机器人已经在澳大利亚安装了近1万个太阳能组件。这台机器人在新南威尔士州的一个工地工作，它使用真空吸臂将光伏面板放置到预先对准的安装结构上。虽然文章强调了“人工智能”，但一些评论者认为它主要是一个带计算机视觉的取放机器人，用于面板放置，这引发了对真正人工智能参与程度的质疑。一位评论者设想了一个未来，更先进的“具身人工智能”机器人可以通过观察人类并模仿他们的行为来执行复杂的任务，甚至在需要时寻求澄清。另一位评论者质疑是否需要人工智能。尽管存在争议，但这一发展标志着太阳能电池板安装自动化取得了进展。
您的浏览器禁用了 JavaScript。请启用 JavaScript 以继续。本网站的必需部分无法加载。这可能是由于浏览器扩展、网络问题或浏览器设置造成的。请检查您的网络连接，禁用任何广告拦截器，或尝试使用其他浏览器。
这篇 Hacker News 帖子讨论了一项关于使用脑电图监测来减少儿童麻醉剂用量的研究。一位儿科麻醉师对该研究的方法论提出了质疑，特别是关于七氟醚的使用和潜在的麻痹。其他人分享了他们使用不同类型麻醉的个人经历，注意到意识水平、谵妄和术后效应的差异。一些评论者指出，脑电图监测在成人手术中已经很常见，并对关注儿童感到惊讶。 帖子中也讨论了历史上儿童在手术中受到的虐待，一些人认为以前人们认为婴儿不会感到疼痛，并且经常在没有充分麻醉的情况下进行手术。这引发了关于医疗实践的演变以及认识和承认过去错误的重要性的一场辩论。总的来说，这篇帖子突出了麻醉实践的复杂性和持续进步，尤其是在儿童方面。
奇异世界
'Bizarro World'
22 小时前
2007年，比利·贝克写到了他妻子劳里的意外经历——她成为了俄罗斯方块的世界纪录保持者。一次与电子游戏裁判的谈话启发了贝克，他发现妻子的俄罗斯方块技术超群。这促使他们前往新罕布什尔州的Funspot，美国经典街机博物馆的所在地，尝试挑战Game Boy俄罗斯方块的世界纪录。
起初，他们被告知纪录是327行，但事实证明，劳里玩的彩色版游戏的纪录是545行。但这并没有阻止劳里，她在裁判和一群游戏玩家面前现场比赛。尽管压力重重，分心不断，她仍然打破了现有纪录，达到了惊人的841行。这一成就让她赢得了“世界最伟大的俄罗斯方块玩家”的称号，也让贝克开始思考精通技艺的意义，最终把整理行李箱的任务交给了他这位精通俄罗斯方块的妻子。
这篇Hacker News的讨论串涉及一篇2007年Boston.com的文章“Bizarro World”，很可能与竞技游戏纪录有关。核心争议点在于Billy Mitchell的《大金刚》得分，怀疑其使用了不准确的MAME版本。讨论强调了利用模拟器虚报高分的可能性以及随后其成绩被Twin Galaxies移除引发的法律纠纷。同时还提到了Todd Rogers不可能达成的Atari 2600《Dragster》时间，成为了网络笑柄。
随后讨论转向了《超级马里奥兄弟》的速度跑，指出“圣杯”5分8秒的纪录已被超越，目前已有七名跑者达到4分54秒。Nifski目前被认为是最强的跑者。讨论中还区分了原版硬件、模拟器以及工具辅助的速度跑，Twin Galaxies主要关注原版硬件。值得一提的是，超级Game Boy不被认为是原版硬件。
sxwm 是一款轻量、快速且可配置的窗口管理器，仅需 libX11 和 Xinerama 即可运行。它提供平铺和浮动布局，九个集成工作区，并支持通过用户友好的 `~/.config/sxwmrc` 文件实时重新加载配置。主要功能包括受 DWM 启发的主窗格布局、鼠标窗口操作支持以及 Xinerama 多显示器支持。
配置选项包括设置修饰键、间隙、边框宽度、颜色、主窗格宽度百分比以及用于更平滑鼠标操作的运动节流。可以轻松定义键绑定，用于外部命令和内部功能，例如窗口管理、工作区切换和间隙调整。文中给出了启动终端、关闭窗口和在工作区之间移动等常见操作的键绑定示例。文档还提供了使用 GCC 或 Clang 的简单构建和安装说明。
Hacker News上的一篇帖子讨论了切换到平铺窗口管理器的好处，起因是一位16岁的开发者推广他们的项目“sxwm”，将其作为DWM和i3的一种易于配置、轻量级的替代方案。
一些用户分享了他们使用i3、hyprland和swaywm等平铺窗口管理器的经验，强调了其与macOS或Windows相比在窗口管理方面的优势。然而，一些用户也表达了对配置复杂性和意外重启的挫败感。
该开发者声称DWM不完整，i3臃肿，这遭到了质疑，有人建议更积极地宣传sxwm的优势。另一些人则质疑代码大小作为主要优势的相关性。讨论还涉及到X11和Wayland的选择。一些人认为平铺窗口管理器不适合宽屏幕。
Niklaus Wirth于1979年在瑞士苏黎世联邦理工学院（ETH Zurich）创建的Modula-2语言，于1980年催生了Lilith工作站。Lilith的工作站软件包括Modula-2编译器、操作系统和编辑器。最初的编译器运行在PDP-11上，随后出现了PC版本，它为Lilith生成M代码，并通过M2M-PC系统（一个M代码解释器）在MS-DOS上执行。Gutknecht和Wirth于1985年发布了一个更快的单遍编译器。之后，又创建了一个为Motorola 68000/68040处理器生成原生代码的版本，并用于MacMETH系统。相关的资源包括编译器源代码、M2M-PC系统、Modula-2手册、关于代码生成和编译的论文，以及Wirth的著作《Programming in Modula-2》。《The Art of Simplicity》也包含相关的章节。
这个Hacker News帖子讨论了Lilith、Modula-2和相关技术。主贴重点介绍了一个Emulith页面，其中包含Lilith硬件手册和演示视频。一位评论者注意到首页同时出现了Oberon Pi。讨论围绕着Modula-2在编程教育中的作用，它与Pascal和Delphi相比的特性，以及关键字是否区分大小写展开。一些人记得Modula-2区分大小写，并将其与Niklaus Wirth偏好使用大写关键字的风格选择联系起来。还提到了尽管IDE早已消失，但仍有可能开发一个VSCode扩展。对话涉及编程语言的演变以及为特定语言选择合适工具的重要性。
天文学家Terry Long Phan的团队通过分析间隔23年的IRAS和AKARI红外巡天存档数据，发现了一个潜在的第九行星候选者。这个天体位于距离太阳约700天文单位的地方，其运动轨迹与第九行星的预测路径一致。不同于与物种大灭绝相关的“X行星”理论，第九行星的假设提出于2016年，旨在解释柯伊伯带天体异常的轨道。
如果得到证实，这个候选者将比海王星更大，超过了最初对超级地球大小的预期。它的发现取决于未来使用像暗能量相机这样的强大望远镜进行观测，以准确确定其轨道。第九行星遥远且偏心轨道的起源仍然是一个谜，可能性包括受到巨行星的引力散射或捕获一颗流浪行星。虽然之前在IRAS数据中发现过另一个距离太阳较近的潜在候选者，但Phan发现的天体由于在IRAS和AKARI数据中都被探测到，因此更有希望。南希·格雷斯·罗曼太空望远镜和维拉·鲁宾天文台不久将开始搜寻第九行星，为进一步证实提供更多机会。
最近Hacker News上的一篇帖子讨论了来自23年前的天文观测提供的关于第九行星的潜在证据。讨论围绕着如何最好地理解这颗行星与太阳的巨大距离展开，其中比较了冥王星的轨道和天文单位（AU）。一些人认为“比冥王星远15倍”更直观，而另一些人则更倾向于使用“700 AU”，因为它定义明确。
一个引人入胜的延伸讨论探索了第九行星可能是原始黑洞的可能性，从而引发了对其潜在科学研究甚至星际旅行的猜测。讨论还涉及到行星的定义以及冥王星在历史上被降级的问题，一些用户倡导更广泛的定义，将冥王星和其他矮行星包括在内。这篇帖子突出了理解广袤宇宙距离的挑战，以及持续进行的对我们太阳系外围区域的科学探索。