阿里云支撑一键安排DeepSeek

快科技2月3日新闻，明天阿里云发布，阿里云PAI Model Gallery支撑云上一键安排DeepSeek-V3、DeepSeek-R1。用户无需编写代码，即可经由过程阿里云平台实现从模子练习到安排再到推理的全进程，极年夜地简化了AI模子的开辟流程。依据官方先容，一键安排DeepSeek模子的操纵流程十分简略，仅需以下3步：登岸PAI把持台，在左侧导航栏抉择任务空间列表，单击指定任务空间称号，进入对应任务空间内，最后在左侧导航栏抉择疾速开端 Model Gallery。进入DeepSeek模子概况页。在Model Gallery页面的模子列表中，单击找到并点击须要安排的模子卡片，比方“DeepSeek-R1-Distill-Qwen-7B”模子，进入模子概况页面。一键安排DeepSeek模子天生效劳。单击右上角安排：现在DeepSeek-R1支撑采取vLLM减速安排；DeepSeek-V3支撑vLLM减速安排以及Web利用安排；DeepSeek-R1蒸馏小模子支撑采取BladeLLM跟vLLM减速安排。安排胜利后，在效劳页面能够点击“检查挪用信息”获取挪用的Endpoint跟Token，想懂得效劳挪用方法能够点击预练习模子链接，前往模子先容页检查挪用方法阐明。不外须要留神的是，本教程安排的模子为蒸馏当时的DeepSeek-R1-Distill-Qwen-7B，基于 DeepSeek-R1的推理才能，经由过程蒸馏技巧将推理形式迁徙到较小Qwen模子上。同时，阿里云PAI Model Gallery也供给DeepSeek-R1、DeepSeek-V3原始模子的一键安排。【本文停止】如需转载请务必注明出处：快科技义务编纂：彩色