Ecco un uso interessante degli LLM integrato nell'OS. Certo manda le query fuori (far girare un LLM su un server dove gira altro non sarebbe comunque una gran furbata se vogliamo risparmiare risorse) e comunque l'LLM dovrebbe partire on demand
https://docs.redhat.com/en/documentation/red_hat_enterprise_linux/10/html/interacting_with_the_command-line_assistant_powered_by_rhel_lightspeed/introducing-rhel-lightspeed-for-rhel-systems
NB: il servizio è IBM ma il codice di molti modelli di IBM WatsonX LLM IBM® Granite è opensource.
#LLM
Palin /
npub1z5…c5dtj
2025-05-30 06:40:37
Author Public Key
npub1z5xemd2zvm09sjx9uctujq9ujgrcs5tdu0zh0w7uxlzdgqt2f2gqdc5dtjPublished at
2025-05-30 06:40:37Event JSON
{
"id": "093da05cc7e168178b1301427b59b8b75e7afbbde9a5e59434d7ac25c4997f03",
"pubkey": "150d9db54266de5848c5e617c900bc920788516de3c577bbdc37c4d4016a4a90",
"created_at": 1748587237,
"kind": 1,
"tags": [
[
"t",
"LLM"
],
[
"proxy",
"https://livellosegreto.it/users/palin/statuses/114595413192622578",
"activitypub"
],
[
"client",
"Mostr",
"31990:6be38f8c63df7dbf84db7ec4a6e6fbbd8d19dca3b980efad18585c46f04b26f9:mostr",
"wss://relay.mostr.pub"
]
],
"content": "Ecco un uso interessante degli LLM integrato nell'OS. Certo manda le query fuori (far girare un LLM su un server dove gira altro non sarebbe comunque una gran furbata se vogliamo risparmiare risorse) e comunque l'LLM dovrebbe partire on demand\n\nhttps://docs.redhat.com/en/documentation/red_hat_enterprise_linux/10/html/interacting_with_the_command-line_assistant_powered_by_rhel_lightspeed/introducing-rhel-lightspeed-for-rhel-systems\n\nNB: il servizio è IBM ma il codice di molti modelli di IBM WatsonX LLM IBM® Granite è opensource.\n\n#LLM",
"sig": "4e8a542525351aca0bac88c8e65ba5e0ed138d164619b58102edd6aa641fe3723dc72ad3f1ffeca5382a07a7980eee413a7cd1e87c3798afd453c5fd046be3b1"
}