Глава OpenAI Сэм Альтман назвал неэффективным использование дефицитных чипов памяти для локального запуска моделей на домашних компьютерах — AI на vc.ru

Многие хотят использовать ИИ локально. И почему-то они считают, что проблема решена, потому что есть модели с открытым исходным кодом, которые можно запускать на своих компьютерах, а значит, оборудования для дата-центров нужно меньше.

Но с точки зрения глобального распределения ресурсов, на самом деле, это ужасно, когда у каждого пользователя в компьютере хранится ограниченный мировой запас оперативной памяти, используемый всего 5% времени.