Lama 2 szczegółowo wyjaśniona w 5 minut

Kiedy na horyzoncie pojawia się tak wielka innowacja, jak „Llama 2”, istnieje niewielka szansa, że ​​Meta nie wykorzysta jej. Tym razem wymyślili własnego chatbota.

Lama 2własny model dużego języka o otwartym kodzie źródłowym (taki jak GPT-3) firmy Meta ma wywołać falę w sferze sztucznej inteligencji.

Nowa sztuczna inteligencja jest w doskonałej sytuacji, aby stanowić bezpośrednie zagrożenie dla ChatGPT, głównie dlatego, że jest bezpłatna i umożliwia dalsze przełomy w badaniach nad sztuczną inteligencją. Ale Llama 2 ma do zaoferowania znacznie więcej. W tym poście rozpakowuję dla Was Lamę 2.

Meta: Pionier rewolucji Metaverse

Zacznę od ponownego przedstawienia twórcy Llama 2, Meta Platforms Inc. Dawno, dawno temu mogłeś znać tę firmę jako Facebook, ale już nie.

Z kapitalizacja rynkowa wynosząca 772,33 miliardów dolarów, Meta jest jedną z wiodących firm technologicznych na rynku, specjalizującą się w mediach społecznościowych i produktach technologicznych. Pod jej parasolem znajdują się najpopularniejsze media społecznościowe i aplikacje do przesyłania wiadomości, w tym Facebook, Instagram, WhatsApp, Threads i Messenger.

Cenionym projektem Meta jest rozwój Metaverse, zbiorowej wirtualnej przestrzeni współdzielonej łączącej rzeczywistość fizyczną, rozszerzoną i wirtualną. Wizja ta obejmuje rozwój technologii VR i AR, wciągających doświadczeń i cyfrowych ekosystemów, które pozwalają użytkownikom na interakcję w nowy i wciągający sposób.

Kiedy świat zapoznał się z modelem dużego języka za pośrednictwem modeli GPT OpenAI i PaLM 2 firmy Google, Meta dostrzegła okazję do zaprezentowania czegoś własnego – wyrwania ciasta z talerzy.

Przeczytaj także: Aplikacje AI, które ciekawskie umysły powinny mieć na swoich smartfonach

Przedstawiamy Lamę 2

Lama 2 to model dużego języka o otwartym kodzie źródłowym opracowany przez Meta i Microsoft, przeznaczony do celów badawczych i komercyjnych. Tak, to brzmi jak niezwykły sojusz, ale obie firmy próbują odcisnąć swoje piętno w badaniach nad sztuczną inteligencją, więc dlaczego nie połączyć sił przeciwko wspólnym wrogom? Rezultatem jest potężny LLM, z którego można korzystać bezpłatnie.

Ponieważ jest dostępna bezpłatnie, Meta stała się jednym z największych autorów Open Innovation w AI. Chociaż Llama 2 działa podobnie do innych LLM, takich jak GPT-3 i PaLM 2, z podobnymi pomysłami na rozwój.

Platforma umożliwia organizacjom i programistom tworzenie generatywnych narzędzi i doświadczeń AI bez ograniczeń.

Chociaż szczegóły dotyczące tego, czym różni się od konkurentów od strony technicznej, są wciąż niejasne, jest otwarty i darmowy w użyciu, w przeciwieństwie do kodów innych firm o zamkniętym kodzie źródłowym.

Jak działa Lama 2?

Lama została przeszkolona z 2 biliony „tokenów” z publicznie dostępnych źródeł, takich jak Wikipedia, Common Crawl i publicznie dostępnych książek z Projektu Gutenberg, w celu stworzenia swojej sieci neuronowej. Każdy token oznacza słowo lub fragment semantyczny, który umożliwia modelowi nadawanie znaczenia różnym tekstom i przewidywanie tekstu następnego.

Podczas szkolenia modelu AI twórcy wdrożyli kilka strategii, w tym uczenie się przez wzmacnianie za pomocą informacji zwrotnej od człowieka (RLHF). Dokonano tego, aby zachęcić system do przydatnych odpowiedzi i wygenerować bardziej odpowiednie wyniki.

Ale najlepsze jest to, że możesz wytrenować model, aby tworzył historie marki na przykładach dotyczących stylu, głosu i osobowości Twojego osobistego, zawodowego lub marki. Model jest jedynie bazą, na której budujesz formę w zależności od swoich potrzeb. Chatbot modelu jest również szkolony i dostrajany danymi, dzięki czemu lepiej reaguje na podpowiedzi w najbardziej naturalny sposób.

Wymagania systemowe do uruchomienia Lamy 2

Aby uruchomić program, potrzebujesz minimum modelu 7B i co najmniej 10 GB VRAM, chociaż 8 GB też by się sprawdziło.

Oto kilka warunków wstępnych lokalnego uruchomienia Lamy 2:

  • Python: wymagany jest Python 3.8 lub nowszy, zalecany jest 3.11
  • Git: Grit musi zostać zainstalowany

Aby wypróbować dowolną wersję Lamy, jedyną opcją jest przejście do Przytulanie Twarzy, główne centrum modeli sztucznej inteligencji typu open source. Za pośrednictwem platformy możesz także wypróbować Llama 2 7B Chat. Jeśli masz specyfikacje obsługujące jego działanie, możesz Poproś o dostęp do kolejnej wersji Lamy, podając szczegółowe informacje o sobie Meta.

Jak Llama 2 wypada w porównaniu z GPT i Bardem?

Lama 2 należy do tej samej ligi, co modele AI GPT i Barda. Naukowcy z Lamy opublikowali artykuł badawczy, w którym wyjaśnili różne aspekty modelu sztucznej inteligencji, w tym jego porównanie z podobnymi produktami w oparciu o pewne wspólne standardy – zbiór danych TriviaQA dotyczący rozumienia czytania i wielozadaniowe rozumienie języka.

Porównanie przeprowadzono z kilkoma modelami o otwartym i zamkniętym kodzie źródłowym, takimi jak GPT-3.5, GPT-4, PaLM i PaLM 2.

Wniosek był taki, że wersje 70B Lamy są znacznie lepsze pod względem wydajności niż inne LLM typu open source. Chociaż wydaje się, że pod względem większości parametrów dorównuje wydajnością GPT-3.5 i PaLM, nie przewyższa GPT-4 ani PaLM 2.

W praktyce Llama 2 opiera się na wyobraźni, dając szybkie rezultaty. Z drugiej strony ChatGPT może być bardziej zaawansowany i kreatywny w swoich wynikach, zwłaszcza jeśli używasz jego najnowszej i płatnej wersji.

Ale właśnie w tym Llama ma przewagę: jest darmowa i ma otwarte oprogramowanie. Firmy mogą uzyskiwać dostęp do oficjalnych interfejsów API i korzystać z nich w celu udoskonalania swoich modeli, tak aby zachęcały do ​​unikalnych odpowiedzi.

Zamykające myśli

Lama 2 zdecydowanie nie jest najlepszym LLM na rynku. Ale tym, co go wyróżnia, jest to, że jest oprogramowaniem typu open source i dostępnym dla każdego za darmo, w przeciwieństwie do konkurentów o zamkniętym kodzie źródłowym. Wprowadzenie tego narzędzia AI było ogromnym krokiem w kierunku otwartych innowacji; Ponieważ Llama jest tak łatwo dostępna, ułatwia firmom eksperymentowanie i tworzenie narzędzi i aplikacji opartych na sztucznej inteligencji, które mogą kontrolować.

Każdy może uzyskać do niego dostęp, ale jedynym ograniczeniem licencji jest to, że firmy z ponad 700 milionami użytkowników miesięcznie musiałyby wystąpić o specjalne pozwolenie na obsługę Lamy. Oznacza to, że wielcy giganci technologiczni i bezpośredni konkurenci Meta i Microsoft, tacy jak Google, Amazon i Apple, mogą zapomnieć o łatwym dostępie. Zatem więcej władzy dla mniejszych firm!

Następnie przejrzyj listę najpotężniejszych narzędzi AI, którą możesz dodać do zakładek na później.