我正在让法学硕士在小型和旧设备上工作

【HN用户评论摘要】 最近，我在我的人工智能公司开始了这个开源项目，我试图让法学硕士工作现在已经达到了在第一代iPad Air和小米电视盒上运行的16B模型，两者的可用内存都小于1GB，并且在给定硬件的情况下达到了一些不错的速度。我将所做的工作、内核开发和结果开源，供大家重新生产和推送更多，修改后的模型也很受欢迎： https://huggingface.co/hyperionaidev我想要一个更具挑战性的设备，你想要什么 同样，有人在任天堂 Wii 上运行了tinystories LLM，包括 GPU 加速 [0].0：https://github.com/brysontang/iiama2.c 这真是一个很酷的人。我喜欢这种利用人工智能复兴旧技术的趋势，这是另一个值得探索的途径。我有兴趣看到一些旧的旗舰移动设备 这太棒了。我最近一直在尝试将一些旧的瘦客户端重新用作家庭实验室 Linux 机器，不是我的网站，但有相同的想法：https://www.parkytowers.me.uk/thin/所有这些旧的/过时的设备在与正确的软件一起使用时都非常有能力。 [死了] 原始链接：https://github.com/hyperionaidev/smolmaxxing/