Prova GPT-SW3

Anatoly Mironov

AI Sweden har publicerat den första svenska språkmodellen - GPT-SW3:

I det här inlägget vill jag beskriva hur man kommer igång om man vill testa det. Min setup är följande:

  • En MacBook Pro (men det kan vara vilken dator som helst egentligen)
  • Python 3.8^ + venv (om det lite senare)
  • Visual Studio Code
  • Jupyter Notebook Extension till Visual Studio Code

Datoruppsättning

Om inte du har gjort det tidigare, installera Visual Studio Code

I Visual Studio Code, installera extension pack: Jupyter.

Jupyter extension pack

Installera Python. På en mac rekommenderar jag att använda brew, på Windows rekommenderar jag winget. För Ubuntu är det bara att köra sudo apt install python3.

Skapa projektmapp och en virtuell mijö

Skapa en mapp och sätt upp en virtuell miljö i python:

python3 -m venv .env
source .env/Scripts/Activate

Installera python-paket:

pip3 install huggingface_hub
pip3 install sentencepiece
pip3 install transformers
pip3 install torch

Notebook

Nu ska vi testa att använda modellen som är minst - 126 miljoner.

Skapa en ny fil i din projektmapp: min heter 003.ipynb. Lägg in bitar av kod från sidan och kör.

Välj rätt kernel, det ska vara din nya .env-miljö.

kernel

Ställ frågor

Det är allt för den här gången.