paulwong
          

          

          



          
	
					
	
          
		
          
			AI微調框架axolotl安裝
		
          
		1. N卡驅動和toolkit安裝

          https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=WSL-Ubuntu&target_version=2.0&target_type=runfile_local
          
 

          2. python和mini-conda安裝
          

          基本是要下載安裝包安裝, 
          
python下載地址：https://repo.huaweicloud.com/python/3.12.8/
          
m          ini-conda下載地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/
          
co          nda清華資源：https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/
          

          

          


          

          

          3. 新建一個conda環境
          

          

          conda create -n axolotl python=3.12
          

          


          

          

          4. cuda版本的pytorch安裝
          

          https://download.pytorch.org/whl/cu124/torch-2.5.0%2Bcu124-cp311-cp311-linux_x86_64.whl#sha256=5e3f4a7ba812517c2c1659857b5195f287a288fbd050a5abf9311e03dbe1a28b
          

          

          如想安裝其他版本, 可從以下網址查找:
          

          https://download.pytorch.org/whl/torch
          

          


          

          

          

          5. git clone https://github.com/axolotl-ai-cloud/axolotl, cd到根目錄, 運行
          

          

          pip3 install --no-build-isolation axolotl[flash-attn,deepspeed]
          

          

          


          

          


          

          


          

          


          

          

		
          
			posted on 2025-01-12 16:37 paulwong 閱讀(65) 評論(0)  編輯  收藏  所屬分類: AI-FINE-TUNNING 
		
          
	
          
	
	





          
	    
    




          








          

				

          



    







          
        
	




主站蜘蛛池模板：
马关县|
钟山县|
香港|
苏尼特左旗|
荣昌县|
南昌市|
梅州市|
松滋市|
远安县|
班戈县|
城市|
库伦旗|
万荣县|
萍乡市|
盐城市|
封开县|
屏边|
昭觉县|
宜城市|
上蔡县|
溧阳市|
湖州市|
顺昌县|
铁力市|
临猗县|
鄂伦春自治旗|
武安市|
新民市|
师宗县|
昌邑市|
漾濞|
新宁县|
无锡市|
白银市|
康定县|
翁牛特旗|
巴南区|
翼城县|
田东县|
房山区|
阜新市|