Alexey Skobkin on Nostr: nprofile1q…us8f8 > а может и новые виды баз данных ...

nprofile1qy2hwumn8ghj7un9d3shjtnddaehgu3wwp6kyqpqzgrs3mhqfuhzrcesq8e6axrka4pj4nvh0edv8j08dfgwgaem0ukseus8f8 (nprofile…s8f8)
> а может и новые виды баз данных появятся с выжимками из доков, пригодными для оперативного всасывания моделями, колупающими ту или иную область деятельности

Этим уже занимаются эмбеддинговые модели.
Ну, например, такой принцип используется в LLM-плагинах для того же Obsidian и местами при интексировани кода во всяких умных помощниках.
Одна моделька эмбеддит, другая потом выдаёт ответы.

> где-то читал, что плашки плохо совместимы быстрой памятью, в какой-то момент длина проводников становится ультра-критичной, и выдержать ее невозможно ни в каких разъемах, только точно впаивать

Ну, да, но не совсем. Вон новое поколение Ryzen AI сделало достаточно неплохую память. Да, там она распаяна на плате, но если бы это делалось исключительно из-за длины дорожек - память бы вообще старались встроить прямо в CPU.
Но для того чтобы это сделать там ещё и заметно перерабатывается архитектура. В том числе там используется GPU/NPU находящийся на том же кристале чтобы у него был прямой доступ к памяти, а не необходимость гонять её копии по PCI-e.

То есть в целом в теории можно придумать решения с плашками памяти, которые шарятся с ускорителем нейронок. Но это должна быть комплексная переработка архитектуры системы.