成人新区 我把DeepSeek装进了电脑里：生成智力一般，但如实很好玩

图片成人新区成人新区

这个春节假期，要说“红得发紫”的科技居品，DeepSeek应该当之无愧。致使平时对科技新闻绝不收敛的长者们，也走过来问小雷有莫得传奇过DeepSeek。在我的印象中，上一次AI大模子如斯深刻东说念主心的，照旧OpenAI的ChatGPT。大富大贵的背后，是DeepSeek遇到一语气且高强度的麇集袭击，大部分时候官网都没主义正常生成内容，即便关闭联网搜索，具备深度推明智力的DeepSeek-R1在线模子照旧无法正常使用。好在，在华为等繁多科技公司的撑合手下，第三方平台纷纷接入DeepSeek的API，让贯通在线使用成为了可能。不外这些渠说念骨子上照旧线上窥察，春节期间休息的小雷，还想玩一把更大的，比如把DeepSeek大模子部署到腹地。于是，在春节期间，小雷动起手来试验了一下。

图片

菊花 流出 国产 porn下载慢还得敲代码，打造“AI电脑”辞谢易事实上，不管是不是DeepSeek，想要在我方电脑部署一个腹地大模子，扩充的情状并未几，难点在于寻找到对应的资源和敕令。但需要防卫的小数是，腹地大模子虽说是也曾考试好的制品，但也需要有一定的硬件基础，体验才算得上好。

图片

（图片来自Ollama）最初，咱们不错到Ollama官网下载一个桌面端应用，这个应用绝顶于一个承载腹地大模子的“盒子”，除了DeepSeek以外，你不错在Ollama官网的模子库中找到许多开源大模子。Ollama桌面端并不提供任何收尾界面，想要将大模子下载到腹地，需要在Ollama官网的模子库当中找到对应模子的代码，复制到PowerShell（Win+R输入PowerShell回车绽开）当中，就不错扩充模子数据的拉取和安设。

图片

（图片来自雷科技）小雷选的是DeepSeek-R1模子当中的7b版块，也等于带有70亿参数的DeepSeek-R1模子，占用4.7GB。腹地大模子参数目越大当然是越好，不错提供更精确的言语领路和更高质料的文本生成智力，具备更强的逻辑推理和学习智力，同期学问储备和泛化智力。但腹地大模子依赖电脑打算智力，每个东说念主对大模子的需求不同，不应该“硬来”。一般来说，运行1.5B参数的模子最低需要4GB显存的GPU以及16GB的内存，要是够不上条件，则会强附近用CPU进行打算，硬件职守更大，且推理的时期会更长。而满血版的DeepSeek-R1参数目为671b，体积达到404GB，需要更高规格的打算硬件才能职守得起，关于个东说念主部署需求，小雷提倡1.5b-8b参数最为适合。

图片

（图片来自雷科技）模子数据拉取结束，系统则会自动扩充安设，完成之后就不错径直在PowerShell窗口当中径直调取刚下载的DeepSeek-R1模子，输入框填写问题发送，腹地大模子就会推理并生成。到这里，DeepSeek-R1腹地大模子的部署就完成了，表面上大家也不错把柄这样的设施去部署其它大模子上电脑。但每次开启电脑都要绽开PowerShell界面才能激活大模子，关于普通用户而言并不便捷，这个时候咱们需要给DeepSeek-R1安设一套更直不雅的交互界面。小雷礼聘了在Docker应用（图标是一个蓝色海豚）上添加一个Open-WebUI组件，让DeepSeek-R1不错通过浏览器界面交互，并赋予它议论险阻文的智力。具体来看，需要先下载Docker桌面端，按照默许的指导完成安设之后（可跳过账号注册等情状），再次绽开PowerShell界面复制并扩充以下这条辅导，小雷帮大家省下去Github查找的时期了：docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main要是是使用NVIDIA GPU的小伙伴，则需要使用以下这条辅导：docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda拉取大模子文献和Open WebUI组件需要一个比较漫长的历程，尤其是麇集不太盼愿（或者莫得科学上网）的环境，下载器会约束重试/切换澄莹，出现下载进程丢失的问题。安设完成之后，Docker应用中就会出现一个Open-WebUI的联系组件，把它勾选启动，再点击“3000:8080”字样的一语气，系统就会跳转到网页。

图片

（图片来自雷科技）这个时候，你就获取了一台带有AI腹地大模子的确凿的“AI电脑”了。小雷体验了通盘这个词部署历程，情状并不算复杂，系统的数据拉取和安设都是自动化的，主要照旧在搜索敕令行和安设资源，以及拉取和安设组件时花了比较多的时期，Ollama和Docker都不错通过百度搜索到，小雷也在上头提供了对应的跳转一语气，动手智力且有兴味的列位不错尝试尝试。固然了，腹地部署大模子的设施并不独一这一个，像华为刚推出的ModelEngine等，具备一站式考试优化和一键部署的智力，应该是面向企业端的开发器用。

图片

离线使用是善事，但生成智力不如云霄版国内的AI大模子应用礼聘好多，况兼网页端处事很皆全，那么腹地部署的神往在那里？前边铺垫了这样多职责准备腹地大模子，要道有两点：第一，腹地大模子的通盘模子数据和对话纪录都是皆备离线，存储在腹地，腹地推理反映时期更快，也幸免了敏锐内容表露。同期在飞机等无网环境之下，也不错正常使用大模子；第二，腹地部署撑合手多样开源模子，个东说念主用户不错活泼扩展和切换，也不错把柄自身需求进行优化和器用集成，总之操作空间会比线上大模子更多。不外小雷部署的时期还不长，许多功能还没摸明晰，此次就绵薄磋议一下腹地大模子的体验奈何。小雷安设DeepSeek-R1 7b模子的电脑是机械变调无界14X，浮薄本定位，运行内存为24GB，并莫得配备安稳显卡这种硬件，不在腹地部署大模子的保举成就边界内，算是一个“反面讲义”。换句话说，DeepSeek-R1 7b模子在这款电脑上，需要更多的推理时期和资源占用才能够正常生成内容。

图片

（图片来自雷科技）像“饭后胀气”等问题的磋议和谜底，大模子需要念念考30秒-1分钟才到谜底生成阶段，期间电脑的负载会达到岑岭，CPU和内存简直被占满，不错遐想莫得安稳显卡的电脑带动腹地大模子会比较吃力，小雷以为给出的谜底的确有一定的正向参考的作用。

图片

（图片来自雷科技）比拟于谜底，小雷更感兴味的照旧DeepSeek拟东说念主化的念念考历程，很少有AI助手把念念考的历程作念到如斯拟东说念主化，不管生成的谜底是否准确，它的拟东说念主化推理历程似乎也能激起许多普通用户的兴味。要是把相同的问题放在网页端的DeepSeek大模子，并启用R1深度念念考，径直生成了一个“处事器穷困”的回馈，密集的窥察的确给DeepSeek形成了不少困扰，这个时候想要正常地和它交谈，腹地部署智力不一定很强，至少能够窥察得到。

图片

（图片来自DeepSeek）再换一个问题，小雷用了沿路过典的概率题目向腹地DeepSeek-R1 7b发起发问。网页端DeepSeek-R1合手续穷困中，腹地DeepSeek可能也有一些七手八脚，列举了多种情况后又自行驳回，终末还混入了之前发问的“饭后胀气”的内容，画面显得绝顶滑稽。

图片

（图片来自雷科技）腹地DeepSeek在一语气输出十多分钟后也莫得提供谜底，筹商到时期有限，小雷照旧住手了生成。只可说数学题目关于70亿参数的DeepSeek-R1 7b照旧过于复杂，在线大模子都不一定能够输出准确谜底，腹地就更成问题了，同期高参数的腹地大模子推理的历程中，电脑的负载压力也会拉满。从开源的角度去分析，腹地大模子的推广性和可玩性会比传统的线上大模子更好玩。但腹地大模子的部署大家也很明晰，操作起来并不是很容易，想要挖掘更多玩法，照旧要靠动手智力强的用户。

图片

腹地部署DeepSeek，仅仅图个清新好玩？那么，腹地大模子值得东说念主手一个吗？小雷的谜底是狡赖的。就现阶段的生成智力来说，腹地大模子很难跟线上大模子失色，参数边界和打算智力摆在那，细目没法跟正规大模子公司背后的算力集群对比。腹地大模子适合动手智力强的电脑用户折腾，深度发掘的确能带来一些功能上的便利，毕竟腹地大模子在系统底层中运行，能够更好地与硬件聚会。但四肢普通用户，部署自己也算不上是一件多容易的事情，大模子的邻近配套并莫得遐想中锻真金不怕火，Ollama官网全是英文，Docker应用也不提供汉文撑合手，自己在部署上就有较高的门槛。小雷部署一个腹地DeepSeek大模子，仅仅图个清新，平均生成用时20秒起步，除了不错离线随地用，普通的生成需求，体验照旧不如在线大模子。像读取文献分析、联网采集数据分析这些智力，还需要用户我方来折腾，小雷目下部署的DeepSeek还仅仅个开动。另外要是你有一天不消了想要删掉大模子数据，还需要学习情状来毁灭，不然它就会一直占用系统盘的存储空间。

图片

（图片来自mockup）在小雷看来，DeepSeek走开源说念路，最主要的原因照旧为了打响市集影响力，先行占据市时势位，蛊惑行业围绕它来缔造完善的处事体系。抛开Ollama这些不说，国内繁多大模子平台率先接入DeepSeek的API，等于开源带来的径直后果。不错遐想，佩戴超高热度的DeepSeek完成各行业的应用和渗入，个东说念主腹地部署的需求也会变得远比目下绵薄，调起PowerShell界面、敲代码这些事情致使都不需要用户来作念。至于DeepSeek会发展成什么样，小雷还无法量度，被行业高度留情利大于弊，不贯通的处事仅仅短痛，能够提升市集占比走到普通用户身边，渗入到各个开发，到阿谁时候，腹地部署这件事情粗略自己就莫得必要了。End

图片

2024科技大盘货：

1、24年最伟大10款科技居品榜单出炉：款款王炸，AI为王！

2、雷科技剪辑2024买了啥？手机、耳机最受宠，可穿着无东说念主问津？

手机行业的2024：

1、2024年十大爆款手机：款款都懆急，国产横暴了

2、24年国产手机赢麻了！苹果三星全面战败

3、2024旗舰手机盘货：影像和AI才是本年的要道词

4、千元机，逆袭了！！！

5、2024年，线下手机透澈杀疯了！

6、2024年，细离异机杀疯了！

7、果味手机，透澈火了！！！

8、2024年手机狂卷创新：十大本领升起，一切为了“更实用”

9、手机影像卷疯了！九大趋势下，安卓全面碾压iPhone

10、2024年，年度最无须的手机遐想！

11、24年手机成就开倒车！录像头减少、屏幕变小，连充电都慢了！

智能硬件的2024：1、2024年，无线耳机杀疯了！2、2024年的理会相机：大疆GoPro影石斗法，“御三家”死磕居品3、智能清洁的2024：七大硬核本领冲破，居品创新空间依然雄壮4、2024年平板电脑卷疯了：AI强化出产力，告别“泡面盖”5、2024年教悔硬件大爆发！5款经典居品，款款AI驱动6、2024年智能眼镜杀疯了！不仅仅AI，还有这七大变化7、智妙腕表2024的五大趋势：健康、AI、颜值、续航…… 8、2024年度电视盘货：MiniLED成白菜价，国产旗舰狂卷画质9、2024年年度游戏机出炉！性能升级成大主题，“出动期间”来了10、智能门锁狂卷2024：价钱战、AI化和出海成了主旋律？11、仅重19g！24年鼠标太能卷了：有的带屏幕，有的模块化PC行业的2024：1、2024年8大年度PC榜单出炉：靠遐想创新，用AI破局2、PC DIY的2024：从低迷中走出，大厂纷纷押注AIAI软件的2024：1、2024年十大国产大模子盘货：款款超能打，黑马却是这家？2、九大年度APP出炉！要么AI原生应用，要么AI重塑应用3、AI输入法谁最强？2024年度大模子输入法榜单来了！4、AI影像，透澈爆发！！！科技公司的2024：1、苹果的2024：居品畴前，AI遇阻，生态墙倒塌！2、高通骁龙的2024：从出动之王到智能天下的基石3、联发科的2024：甜点芯守基本盘，旗舰芯冲高端，靠AI赢麻了智能汽车的2024：1、2024十大爆款神车出炉！比亚迪占了一半，智能化还仅仅小众需求2、自主五常销量公布：比亚迪赢麻了，25年五常变四强？3、2024智驾风浪榜：华为小鹏争霸，“蔚小理”加快，老车企回身4、2024年汽车十大本领趋势盘货：智能化成了潮流的大标的5、25年车圈淘汰赛加快！哪吒、远航危急了，微袖珍车被逼上末路？汽车公司的2024：1、2024，比亚迪活成“卷王”2、2024年，鸿蒙智行透澈杀疯了！！！3、2024深蓝汽车赢麻了！多亏了华为？4、小鹏汽车的2024：演出教科书式逆袭，四面出击下忧患犹存5、盼愿的2024：Mega发兵不利，卖车、智驾、出海一笔不苟

6、暴涨300%！赛力斯过肥年：问界太猛了！成人新区

本站仅提供存储处事，通盘内容均由用户发布，如发现存害或侵权内容，请点击举报。