Чатботовете са любопитна иновация, в която много компании виждат бъдещето на търсенето в интернет. Възможността за естествена комуникация с AI системите вече не е футуристична концепция. Популярността на ChatGPT доведе до изцяло нов технологичен сектор, в който да се конкурират големите компании в IT индустрията.
Google, Meta, Amazon и xAI вече пуснаха собствени AI решения, с които да предложат сходни възможности, както ChatGPT. Значително се увеличават и инвестициите в генеративен изкуствен интелект (LLM), които са в основата на модерните чатботове. Невронните мрежи са обект на впечатляващи иновации през последната година.
Екип от учени на ETH Zurich експериментират с нова техника, която има потенциала да ускори неимоверно тяхната работа. Тестовете с модела BERT показват над 99% намаление в изчисленията, като тази иновация може да се приложи към големите езикови модели на компаниите. Предимствата за тях ще са по-ефективна и бърза обработка на информацията, съобщава VentureBeat.
FastBERT е модификация на LLM модела, която има сходни параметри и параметри на обучение. Оказва се, че само за едно денонощие на един A6000 GPU се запазва над 95% от оригиналната производителност. Впечатляващото е, че това се случва при наличието на едва 0.3% от неговите неврони.
Учените са уверени, че интеграцията на технологията крие огромен потенциал за ускоряване и подобряване на бъдещите LLM модели.