paulwong
          

          

          



          
	
					
	
          
		
          
			AI微調框架axolotl安裝
		
          
		1. N卡驅動和toolkit安裝

          https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=WSL-Ubuntu&target_version=2.0&target_type=runfile_local
          
 

          2. python和mini-conda安裝
          

          基本是要下載安裝包安裝, 
          
python下載地址：https://repo.huaweicloud.com/python/3.12.8/
          
m          ini-conda下載地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/
          
co          nda清華資源：https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/
          

          

          


          

          

          3. 新建一個conda環境
          

          

          conda create -n axolotl python=3.12
          

          


          

          

          4. cuda版本的pytorch安裝
          

          https://download.pytorch.org/whl/cu124/torch-2.5.0%2Bcu124-cp311-cp311-linux_x86_64.whl#sha256=5e3f4a7ba812517c2c1659857b5195f287a288fbd050a5abf9311e03dbe1a28b
          

          

          如想安裝其他版本, 可從以下網址查找:
          

          https://download.pytorch.org/whl/torch
          

          


          

          

          

          5. git clone https://github.com/axolotl-ai-cloud/axolotl, cd到根目錄, 運行
          

          

          pip3 install --no-build-isolation axolotl[flash-attn,deepspeed]
          

          

          


          

          


          

          


          

          


          

          

		
          
			posted on 2025-01-12 16:37 paulwong 閱讀(62) 評論(0)  編輯  收藏  所屬分類: AI-FINE-TUNNING 
		
          
	
          
	
	





          
	    
    




          








          

				

          



    







          
        
	




主站蜘蛛池模板：
岑巩县|
安仁县|
左贡县|
芮城县|
嫩江县|
宝鸡市|
雅安市|
平谷区|
金门县|
康平县|
名山县|
禄丰县|
改则县|
右玉县|
万荣县|
鄂伦春自治旗|
京山县|
临朐县|
龙游县|
江源县|
柏乡县|
浮梁县|
峨眉山市|
布拖县|
分宜县|
伊宁市|
甘肃省|
汶川县|
龙岩市|
博野县|
东乡县|
桦南县|
新津县|
武义县|
深圳市|
旬邑县|
金昌市|
九江市|
唐河县|
津市市|
饶平县|