@046569 #10 你似乎理解错了什么，我的意思是你如果想知道显存占用和速度( token/s )如何，完全可以租云算力自己测试，想用什么卡就租什么卡。

另外就目前这玩具水平来说，个人场景下的本地推理属实有点伪需求...不过你开心就好。

还是重启吧，我这时不时就会碰到关闭应用重开都无法解决的卡顿/无法点击/无法输入的问题，重启之后啥事都没有了。

M2 不知道，但是反正 M1 Pro 是空调房 50 度左右，风扇不转，机身略有温热感

京东自营 ikbc 闭眼买就行了，没什么特殊手感要求就红轴，便宜实惠、完全满足需求

有一说一，这年头 AI 写简单逻辑的代码毫无问题，这种不复杂的需求在没有成熟方案的情况下就别老想着找现成的了，直接让 AI 写一个工具也就分分钟的事

换个思路，让 GPT4 基于 OpenAI 文档里的 API 描述，按你喜好随便用个 Web 框架写个代理，转换成 OpenAI 格式的接口就行了

@046569 #8 就算你不考虑用服务器+专业卡，那些服务商里也有租消费级硬件的，国内这块市场很成熟了，主流选择随便一搜就能找到

@046569 #5 直接在 huggingface 上测的，资源占用情况不清楚，你可以租云算力跑一下试试

实测 70B 版本干活的水平也就比之前稍微好点，跟 GPT4 还是差太多了，依然是只有聊天、知识库问答之类的简单场景适合用，还是处于玩具的水平。在这前提下能不能运行到本地设备的意义都不大了，缺乏实用性。

@8520ccc #9 有小的版本，手机都能跑的

有一说一，人家还真不一定在乎 toC 这部分业务，毕竟主要收入靠的是 toB ，而 POE 之类的第三方平台最终也还是得走 toB 的渠道给他们交钱，本质上都是一家人…

识别部分其实可以考虑看看基于 meta 那个新的图像模型做，效果应该挺好

“外挂”警告🐶

看起来速度要求也不高，简单点处理可以直接不用 v2ray ，换成普通的 http 代理，先通过 v2ray 连一个节点再访问任意其他节点的 http 代理，这样控制起来就简单多了。

你这履历除了跳槽频繁容易被扣分以外，已经比绝大多数人好了，但凡简历技术方面的展示更详细点、更体现实力点，想找工作不难啊。现在你主要的问题就是简历里的技术实力展示部分太水了，根本看不出什么优势，看完就只知道你做了点事，然后就没了，事情的难点、你能做到的效果有多好，你是一点都没提。

本来就是有明文规定并且考驾照必然涉及的事情，现在才知道...驾照怎么考过的？

你要搞清楚一个事情，你是人，不是机器，机器才是别人要你干啥就干啥，而人应该自己找事做。像你现在这样为了完成任务而完成任务的心态，能不烦吗...你如果会自己思考出如何优化自己的工作内容并主动进行，那你自然也就找到工作的意义了。

就拿做会议记录这个简单的事情来说，你觉得自己做下来没有母语的人效率高，做得还很烦，公司还没别的事情给你做，那你为什么不想想怎么优化这个事情，把这让你感觉意义不大的记录操作简化掉、把整理记录的效率提高？反正又没人给你安排事情，你手头上就会议记录这一件实际耗时的事，你想办法提高自己效率的时候不就自然而然有积累、有成长了吗？要是做得效果比较好的话后续即使离职了也能拿来在简历里吹吹牛逼，省下来的时间也能变相提高你的摸鱼收入，何乐而不为？

而且你领导给你安排做会议记录这个事，很明显是想让你多了解了解公司的情况，让你能对公司的业务、技术架构等各方面产生清晰的认知。同时根据你提到的母语的人效率会更高，可能你领导还想让你锻炼锻炼语言能力。

说白了，人家整整半年时间都在花高薪养着你，给你充足的时间适应环境和补充可能以往不了解的知识，结果你反倒还不乐意了...不想待可以早点把位置让给需要的人，别浪费人家的招聘预算。