Dell Technologies продължава да поставя високи стандарти за новаторски постижения в областта на изкуствения интелект в сътрудничество с водещи в индустрията компании като NVIDIA и Mistral AI. Както отбелязахме в нашия блог от Dell Technologies World преди няколко седмици, ние работим в тясно сътрудничество с Mistral AI за разработването на решения, които разкриват истинската сила на изкуствения интелект за предприятията. След нашия споделен успех на събитието, ние разширяваме сътрудничеството си с авангардни решения за агентно извличане с усилване (RAG), задвижвани от Dell AI Factory с NVIDIA и платформата за данни с изкуствен интелект на Dell, включваща новия конектор на Dell PowerScale за RAG приложения.

---

Оптимизиране на ефективността на изкуствения интелект

Тъй като организациите изследват приложения за агентно извличане с усилване (RAG) за извличане на прозрения от големи хранилища с данни, оперативните неефективности се превръщат в пречки. Разработчиците на AI и учените по данни ще трябва значително да настройват моделите, за да направят агентите си готови за корпоративна употреба, използвайки огромни количества разнообразни собствени данни и интелектуална собственост. Агентите ще изпълняват множество AI техники едновременно, а изискванията за извличане ще нарастват бързо. В същото време повтарящите се предизвикателства при поглъщането на данни могат да забавят напредъка и да натоварят изчислителните ресурси.

При обработката на терабайти данни това може да се натрупа, тъй като разработчиците многократно обработват промени в потенциално милиони файлове, което води до прекомерна употреба на CPU и GPU ресурси, прекомерно движение на данни, повишени мрежови изисквания и по-бавни тръбопроводи за обработка. Поддържането на актуалност с големи динамични набори от данни е постоянен проблем, често изискващ от разработчиците да възстановяват изчислително интензивни парчета и вграждания.

На NVIDIA GTC в Сан Хосе през март Dell представи специфичен за Dell PowerScale конектор за RAG приложения, който ще помогне на клиентите да освободят CPU и GPU ресурси в своите AI изчислителни клъстери. Ключов за RAG приложенията, този конектор минимизира излишната обработка на данни, оптимизирайки оперативните разходи, производителността на инфраструктурата и ускорявайки времето за създаване на знания. Използвайки конектора, системата проследява обработените и необработените файлове чрез метаданни на файловата система, синхронизирани с база данни Elasticsearch, намалявайки изчислителното натоварване чрез избягване на повторна обработка на непроменени файлове.

Софтуерът NVIDIA AI Enterprise, централен за Dell AI Factory с NVIDIA, допълва тези възможности, като ускорява трансформацията на данни, вграждането и процесите на извличане. Разработчиците вече могат да използват микросървисите NeMo, за да извличат прозрения бързо и интуитивно.

---

Интеграция с Mistral AI

Работим с Mistral AI, за да се справим с критичните предизвикателства за оперативна ефективност. Заедно разработваме решения, които използват пълноценно Dell AI Factory с NVIDIA и новата платформа за данни с изкуствен интелект на Dell. Резултатът е единна екосистема, която ефективно мащабира RAG приложения.

Водещите принципи за тези решения са:

• Високопроизводителни и качествени AI модели и софтуерна инфраструктура на Mistral
• Унифициран достъп до мултимодални структурирани и неструктурирани данни за GenAI натоварвания, интегрирани с Mistral AI за разсъждения, базирани на големи езикови модели (LLM)
• Ускорена трансформация на данни за RAG и извличане на знания чрез конектора PowerScale RAG и векторна база данни
• Ускорен тръбопровод от документ до отговор чрез векторно, метаданно и ключово търсене
• Изключителна производителност при извличане с Project Lightning, решението на Dell за кеширане на ключ-стойност
• Корпоративно ниво на контрол на достъпа и интеграция на съхранение с ObjectScale и PowerScale

Чрез тази синергична интеграция разработчиците постигат по-бързи резултати от изкуствения интелект и по-добър оперативен контрол, проправяйки пътя за напредък в агентния изкуствен интелект.

Отключване на бизнес потенциала в мащаб

Dell AI Factory с NVIDIA, микросървисите NVIDIA NIM и решенията на Mistral AI заедно предлагат осезаеми бизнес ползи за организациите, които се стремят да интегрират изкуствен интелект безпроблемно:

• Оптимизирано извличане на данни: Чрез интелигентна обработка само на нови или модифицирани файлове компаниите могат да оптимизират CPU/GPU циклите за критични задачи.
• Оптимизация на цялостната AI инфраструктура: Оптимизираните работни процеси намаляват оперативните затруднения, предоставяйки на разработчиците мащабируемост за уверено посрещане на променящите се изисквания.
• Производителност: Ефективните тръбопроводи за данни позволяват на бизнеса да извлича приложими прозрения по-бързо, улеснявайки по-интелигентно вземане на решения и по-кратки цикли на иновации.

Стимулиране на иновациите, захранване на AI решения

Комбинираната експертиза на Dell, NVIDIA и Mistral AI представлява следващата ера на трансформация, задвижвана от изкуствен интелект. Чрез справяне с основните предизвикателства на управлението на данни с платформата за данни с изкуствен интелект на Dell, изчислителните неефективности и мащабирането, тези иновации дават възможност на бизнеса да действа решително в бъдеще, управлявано от изкуствен интелект.

Направете следващата стъпка към опростяване и мащабиране на вашите AI операции. Открийте как решенията на Dell AI Factory могат да помогнат за трансформацията на вашата организация на NVIDIA GTC Париж.

Източник