Jan是一款支持 Windows、macOS、Linux 的本地AI软件,利用开源AI模型和自己的硬件(CPU、显卡),让你在自己电脑上运行大语言模型,实现100%完全离线、免费的ChatGPT。 2 a {, c! u, V, U/ ~
& d' H$ @0 p1 Y, Z
原理就是使用自己的硬件来提供算力,支持:% c$ n4 V6 i7 j7 F7 g4 g% B- D2 X
Nvidia GPUs (fast)
Apple M-series (fast)
Apple Intel
Linux Debian
Windows x64 - w7 u: `6 ?' b U" o9 r
也支持多GPU集群,反正你有什么设备尽管上,越多算力越大,速度越快。Jan提供了OpenAI等效API,可以在本地1337端口直接调用。 6 L) i- F. K, K% U
; M. k+ e/ m3 W0 y# H
Jan的使用界面很简单,从边栏选择并下载模型后,就可以直接用了,像和 ChatGPT 一样聊天,只不过这次,算力由你自己的电脑提供。除了从Jan提供的Hub选择模型,也支持手动导入模型、使用在线模型(远程服务器)。 " z1 `5 K& x$ P' Z' d( [0 b1 j, G 6 i* T! q$ a7 w6 C& I官网:https://jan.ai/ 0 i+ o" d/ U( F2 O8 X6 m0 {源码下载:https://github.com/janhq/jan