paulwong
          

          

          



          
	
					
	
          
		
          
			AI微調(diào)框架axolotl安裝
		
          
		1. N卡驅(qū)動和toolkit安裝

          https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=WSL-Ubuntu&target_version=2.0&target_type=runfile_local
          
 

          2. python和mini-conda安裝
          

          基本是要下載安裝包安裝, 
          
python下載地址：https://repo.huaweicloud.com/python/3.12.8/
          
m          ini-conda下載地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/
          
co          nda清華資源：https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/
          

          

          


          

          

          3. 新建一個conda環(huán)境
          

          

          conda create -n axolotl python=3.12
          

          


          

          

          4. cuda版本的pytorch安裝
          

          https://download.pytorch.org/whl/cu124/torch-2.5.0%2Bcu124-cp311-cp311-linux_x86_64.whl#sha256=5e3f4a7ba812517c2c1659857b5195f287a288fbd050a5abf9311e03dbe1a28b
          

          

          如想安裝其他版本, 可從以下網(wǎng)址查找:
          

          https://download.pytorch.org/whl/torch
          

          


          

          

          

          5. git clone https://github.com/axolotl-ai-cloud/axolotl, cd到根目錄, 運行
          

          

          pip3 install --no-build-isolation axolotl[flash-attn,deepspeed]
          

          

          


          

          


          

          


          

          


          

          

		
          
			posted on 2025-01-12 16:37 paulwong 閱讀(62) 評論(0)  編輯  收藏  所屬分類: AI-FINE-TUNNING 
		
          
	
          
	
	





          
	    
    




          








          

				

          



    







          
        
	




主站蜘蛛池模板：
四子王旗|
安达市|
文水县|
北川|
大悟县|
大化|
古蔺县|
高清|
康乐县|
洛宁县|
南通市|
兰州市|
韩城市|
彰化市|
庄浪县|
海淀区|
泾阳县|
彝良县|
甘肃省|
高州市|
姚安县|
扶绥县|
兰西县|
日土县|
固镇县|
奇台县|
尼木县|
扶余县|
曲阳县|
凉城县|
天柱县|
新河县|
滨州市|
房产|
莱芜市|
专栏|
屯留县|
锦州市|
漳平市|
奉新县|
郧西县|