TechWeb 文 / 新喀鸦

跟着科技的连忙发展，东说念主工智能（AI）仍是不再是鸡犬相闻的曩昔科技，而是逐渐融入咱们糊口的各个旯旮。从智能家居的方便操控，到线上行状的智能保举，再到医疗、评释注解等行业的深度应用，AI正以其独到的魔力改换着宇宙。相干词，关于许多普通东说念主而言，AI似乎仍然是一个充满高深感的高技术范围。那么动作普通东说念主，咱们该怎样尝鲜AI时期呢？

以网页版AI为代表的“云表AI”

当咱们提到AI时，礼服许多东说念主的脑海中王人会显现出一个名字——ChatGPT。没错，即是阿谁在科技圈掀翻山地风云的聊天机器东说念主。它的发布，仿佛一齐灿艳的闪电，照亮了AI范围的夜空，让咱们澄莹地感受到了东说念主工智能的无尽可能。

ChatGPT是一款集成了顶端天然谈话处理时期与深度学习智商的聊天机器东说念主，它宛如一位五车腹笥的万能参谋人，不管在哪个范围，王人能针对您的问题提供详备的解答。关于实质创作家而言，ChatGPT更是一位不可或缺的助手，它能生成高质地的图片、编写精确的代码、构念念富饶创意的案牍、制作专科的PPT，并对文档进行润色，使著作实质愈加出色。天然这些只是是ChatGPT功能的冰山一角，列位可以去亲体格验一番，了解它确切的实力。

从使用角度来说，ChatGPT使用起来相等神圣。咱们只需要翻开网页，登陆账号就可以享受到有关的AI功能。

值得一提的是，在本年4月，OpenAI书记ChatGPT（3.5版块）免费了。也即是说要是你只是想体验ChatGPT 3.5版块的话，连账号也不需要，只消登陆ChatGPT的网页就可以了。

要是你现在无法使用ChatGPT的话，国内也有许多厂商推出了一样ChatGPT的居品，比如百度的文心一言。字据百度官方的先容，文心大模子4.0轮廓智商和 GPT-4比拟绝不失态。文心一言的使用样式和ChatGPT一样，亦然只需要翻开网页，登陆百度账号就可以享受到有关的AI功能。现在文心大模子3.5免费通达，文心大模子4.0则需要购买会员才可以使用。国内除了文心一言，还有其他一系列AI应用，如通义千问、豆包、智谱清言、腾讯混元以及讯飞星火等，这些AI应用在使用要领上是大同小异的。

天然以上这些其实王人属于“云表AI”的范围。“云表AI”神圣来说即是将AI有关的数据处理放在行状器上跑，用户只需要通过网页、应用门径输入提醒即可。这种部署形式有三个刚正：

1、低廉：现在云表算力本钱并不算太高，因此许多“云表AI”是免费通达的，就算是收费的会员，价钱也不算太贵。以文心一言会员VIP为例，现在一个月也只消49.9元（一语气包月，可随时取消）。

2、不挑培植：AI既然是放在行状器上跑，那么关于用户使用的终局基本就没什么性能条件了。毕竟找个能宽广造访网页的电脑如故很容易的。

3、易用：由于“云表AI”的部署、贯注、升级等责任是由厂商进展，是以关于用户来说基本是“即开即用”，不绝只需要点开个网页登陆账号就能径直使用AI功能。

基于现存硬件土产货部署AI

固然“云表AI”有诸多上风，但如故有一个问题弗成冷落，那即是数据精巧性。此前三星就被曝出因ChatGPT而裸露芯片机密。那时因为三星职工径直将企业机密信息以发问的样式输入到ChatGPT中，导致有关实质参加学习数据库，从而酿成信息裸露。关于这种情况，土产货部署大模子其实是个很好的科罚目的。

由于土产货部署大模子是将AI放到土产货培植上跑，有关的信息并不会发送到其它行状器上。是以当咱们用这种样式处理个东说念主诡秘信息大致企业机密信息时就无需担忧信息外泄的风险。

不外从另一个方面看，土产货培植的算力性能不绝不如行状器，因此独一部分性能强的培植才适应土产货部署大模子。

以英伟达发布的Chat With RTX为例，Chat With RTX 是一款基于谈话大模子的应用门径，可让用户方便流通到我方的实质（文档、条记、视频或其他数据），讹诈RAG(检索增强生成)、TensorRT-LLM 和 RTX 加快，全部在用户个东说念主的 Windows RTX PC 或责任站上土产货运行，赢得快速、安全的抑遏。

其在硬件方面主要就两点条件：

1、领有8GB以上显存的RTX 30或RTX 40系列显卡。天然同规格的专科显卡也可以。

2、电脑内存突出16GB。

关于显卡来说，即使是2022年发布的RTX 3050也能称心有关需求。RTX 3050基本可以算是最近几年“游戏电脑”的基本设立了，是以现在许多现存的 “游戏电脑”王人能合适这么的设立条件。

要是你想要部署其它土产货大模子，硬件设立条件可能会略微高少许。神圣来说大模子参数越大，需要的显存就越多。假定你使用的显卡其显存大小为16GB，那么想要土产货部署7B以下参数目级的大模子应该是问题不大的。

神圣追溯一下，这种部署形式有两个优点：

1、数据在土产货计较，无需牵记信息外泄。

2、大无数最近几年购买的“游戏电脑”基本王人可以跑，不需要特等购置新培植。

通过AI PC土产货部署大模子

早在2023年9月，英特尔CEO帕特·基辛格在硅谷提议了PC的立异性意见——AI PC。英特尔亦然起头提议AI PC意见的厂商。AI PC神圣来说即是能玩转AI功能的PC。

具体来说，AI PC集成了中央处理器（CPU）、图形处理器（GPU）和神经网罗处理单位（NPU），每种处理器王人具有特定的AI加快功能。NPU是一种专用加快器，它能高效地在PC上径直处理东说念主工智能和机器学习（ML）任务，而不是将数据发送到云表进行处理。因此用AI PC跑AI也无需担忧信息外泄的风险。

相较于惯例的游戏电脑，AI PC在轻狂与便携性方面展现出了显赫的上风。这主要归因于游戏电脑无为需要配备落寞显卡，而这类显卡不仅体积庞大，还需要配备庞大的散热模组来应酬其散热需求，进而需要更高功率的电源来保险供电雄厚。因此，游戏电脑在贪图上不绝显得更为稳当，便携性相对较差，而AI PC则能凭借其更为紧凑的贪图，为用户提供更为粗造的使用体验。

是以关于责任中需要用到AI，且需要无为到处跑的东说念主来说，AI PC会是个可以的遴荐。毕竟要是可以选的话，应该没几许东说念主振奋背着“板砖”（游戏电脑）外出吧？

现在市面上的AI PC按所用处理器分离可以分红四个主要阵营，分别是苹果、英特尔、AMD、高通。

苹果：苹果在AI范围的布局其实挺早，只不外苹果似乎不太可爱AI这个标签，搞出来的后果不绝会以“机器学习”这类更细化的名字定名。比如苹果在2017年推出了Core ML框架，这是苹果为其开导者准备的机器学习框架。复古iOS、MacOS、tvOS和watchOS。也就说是在苹果生态内开导AI，基本不需要探讨兼容性等问题，可以按照扶助的范例进行开导。另外苹果从M1芯片运转推出了“扶助内存”的意见，使用扶助内存跑大模子在带宽和容量方面会有彰着上风。

英特尔：英特尔专为AI PC推出了英特尔酷睿Ultra处理器，在这款处理器中除了领有CPU、GPU之外，还集成了用于客户端的片上AI加快器“神经网罗处理单位（NPU）。不外需要评释的是，无为并不是独一NPU来处理AI应用，CPU、GPU也会承担对应的AI加快功能。

AMD：AMD的AI PC处理器讹诈了三种计较引擎：基于Zen架构的CPU、基于AMD RDNA的集成或落寞GPU、以及基于AMD XDNA的AI引擎（NPU）。XDNA是该公司在收购Xilinx后提议的新架构。它是一种自适合数据流架构，被以为可以大幅度改换PC体验。AMD XDNA还可以优化AI算法运行着力，进而减少电耗。

高通：近期微软推出了基于高通骁龙 X Elite和骁龙 X Plus处理器的AI PC居品Surface Pro和Surface Laptop。微软的AI PC在宣传上似乎更偏向于“生态赋能”。具体来说，英特尔、AMD在宣传AI PC的时间不绝会重心先容AI的土产货化部署上风。而微软似乎并不太在乎土产货部署AI这件事。比如微软在发布会时重心先容的Copilot，其中的不少功能是需要将数据上传的行状器进行处理，也即是颠倒于在走“云表AI”的蹊径。不外关于微软来说也可以清爽，毕竟微软是一个系统厂商，它笃定如故但愿鼓励Windows和Copilot生态的发展。

结语

1、关于想在电脑上尝鲜AI时期的东说念主来说，一样ChatGPT、文心一言之类的“云表AI”是领先。毕竟价钱低廉况兼使用起来也很浅陋。

2、关于担忧信息外泄风险的东说念主来说，基于现存硬件土产货部署AI是个可以的遴荐。其上风在于无需特等购置培植，领有一台“游戏电脑”无为就能称心需求。污点在于这类“游戏电脑”不绝短缺便携性，未便于移动使用。

3、关于上班、出差，况兼还需要使用AI的东说念主来说，AI PC会是个可以的遴荐。毕竟AI PC普遍毕竟轻狂、便携，带AI PC出差可以显赫松开咱们肩膀上的压力。

　　声明：新浪网独家稿件，未经授权谢却转载。 -->