paulwong
          

          

          



          
	
					
	
          
		
          
			AI微調框架axolotl安裝
		
          
		1. N卡驅動和toolkit安裝

          https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=WSL-Ubuntu&target_version=2.0&target_type=runfile_local
          
 

          2. python和mini-conda安裝
          

          基本是要下載安裝包安裝, 
          
python下載地址：https://repo.huaweicloud.com/python/3.12.8/
          
m          ini-conda下載地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/
          
co          nda清華資源：https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/
          

          

          


          

          

          3. 新建一個conda環境
          

          

          conda create -n axolotl python=3.12
          

          


          

          

          4. cuda版本的pytorch安裝
          

          https://download.pytorch.org/whl/cu124/torch-2.5.0%2Bcu124-cp311-cp311-linux_x86_64.whl#sha256=5e3f4a7ba812517c2c1659857b5195f287a288fbd050a5abf9311e03dbe1a28b
          

          

          如想安裝其他版本, 可從以下網址查找:
          

          https://download.pytorch.org/whl/torch
          

          


          

          

          

          5. git clone https://github.com/axolotl-ai-cloud/axolotl, cd到根目錄, 運行
          

          

          pip3 install --no-build-isolation axolotl[flash-attn,deepspeed]
          

          

          


          

          


          

          


          

          


          

          

		
          
			posted on 2025-01-12 16:37 paulwong 閱讀(65) 評論(0)  編輯  收藏  所屬分類: AI-FINE-TUNNING 
		
          
	
          
	
	





          
	    
    




          








          

				

          



    







          
        
	




主站蜘蛛池模板：
罗甸县|
拜城县|
长治市|
贵港市|
宁陕县|
合川市|
伊吾县|
南岸区|
海林市|
镇原县|
宜章县|
千阳县|
嘉定区|
安顺市|
新晃|
台安县|
微山县|
贵定县|
珠海市|
丹棱县|
华亭县|
宾川县|
成安县|
肇源县|
扎赉特旗|
北流市|
麻城市|
定南县|
巴马|
龙门县|
平顺县|
齐河县|
田林县|
阜阳市|
巴青县|
上杭县|
扶风县|
石家庄市|
黎平县|
蓬莱市|
改则县|