Correre troppo avanti a volte non conviene... (TLDR).



Questa volta voglio raccontarvi una storia un pizzico diversa (ed infatti lo faccio nella mia bella lingua nativa). Ma comunque una storia che ha a che fare con l'innovazione e l'AI.

Parto da lontano: quando sono venuto a Roma per la prima volta, dopo la laurea, dividevo la camera di albergo con un carissimo Ingegnere di Bologna: Leo (eh, avessi seguito i suoi consigli, sopratutto in un certo campo... ).

Era un genio dell'elettronica digitale! Dopo un po',  andò a lavorare in una multinazionale dell'elettronica, un gigante dell'epoca. Ma in un posto sperduto, caro a I. Silone.

Quando ci incontravamo mi regalava le calcolatrici che usavano per i test di "resistenza", le lanciavano da X metri di altezza e dovevano sopravvivere (non i lanciatori, le calcolatrici).

Un giorno mi racconto', un po' depresso, che il suo responsabile gli aveva detto di andare più piano. Di non essere sempre cosi avanti.

Aveva progettato una segreteria telefonica su memoria digitale (allora si usavano delle strane minuscole cassette a nastro). Secondo il suo responsabile era troppo avanti per quello che il mercato avrebbe potuto recepire. Ma, era anche troppo avanti rispetto ai suoi colleghi (che quindi non lo amavano). 

Progetto cancellato.

(E' tanto che non sento Leo... ed un po' mi è sempre mancato... lui si che era un bravo.)


Oggi, si parla tantissimo di questi "Vettori di Embeddings". Ho persino scoperto che tanti, dopo essere stati esperti di calcio, si sono lanciati nel mondo dell'AI (magari applicata al calcio). E trovano i modi più assurdi per banalizzare ciò che banale non è. Beh, Mica è facile sintetizzare oggetti complessi in una sequenza di numeri. Magari fanno anche un workshop, un video. E dai con la "democraticizzazione" (parola terribile, a me non viene mai detta bene... non sono bravo).

Tre anni fa io ed altri due bravissimi e più giovani colleghi (erano loro quelli bravi, Claudio e Lorenzo...) decidemmo di partecipare ad un hackaton interno.

Presentammo un progetto per un sistema di Speaker Recognition, in cui usavamo la tecnologia dei "Vettori di Embeddings" (si, sempre quelli!)  per identificare una persona da una breve registrazione audio. 

Io lanciai una collaborazione tutta italiana (ma parteciparono anche amici di altre country) in cui, con un portale (messo in piedi da Claudio) raccoglievamo i campioni di voce delle persone e facevamo il fine tuning del modello. Scrissi a tutti gli amici (sopratutto alle amiche, si, il dataset era un po' sbilanciato e con un bias). 

Alla fine il modello ed il sistema funzionavano in 4 lingue. Un'accuratezza buona, ben superiore alle nostre, pur ambiziose, aspettative.

Nella competizione nessuno ci capi. Zero.... passammo a stento la fase 1, vinse credo un caro progettino di una rassicurante innovatività limitata, adeguata per l'audience e... tre anni fa.

Ovviamente, i sorgenti sono sempre stati in un Github pubblico, come giusto che fosse. Sono sempre li. 


Vabbe, chiudo se no annoio. Ah si, questa era la frase importante: cari ragazze e ragazzi italiani di oggi ... se vi piace, potete impegnarvi nell'AI e, se vi muoverete bene, troverete un bel lavoro, farete cose interessanti e... nessuno penserà che vi piace perder tempo. 







Commenti

Posta un commento

Post popolari in questo blog

Immagine
Improving the quality of your Generative AI Solution using RAG and Oracle OCI Data Science. Since the launch of ChatGPT , in November 2022, we have seen widespread interest in its innovative technology, particularly in its GPT-4 iteration. Since that moment, we have come to understand the capabilities of Large Language Models (LLMs) and we have entered a new era, where the Generative AI potential of these models can significantly improve both productivity and quality, across numerous professions We have learned that: LLM can answer our questions LLM can write emails for our customers LLM can perform copy-editing of our papers (like this one) LLM can quickly generate code snippets for prototype .... But, although LLMs have shown great promises, they also have limitations, especially in the Enterprise sector. At the beginning of this year, a really  good review paper was published, as usual, on Arxiv. In the paper they highlight, among others, these limitations: LLMs have limited k...
Continua a leggere

The importance of memory.

Immagine
 Well, in a RAG chain we have always several important pieces: the Embeddings Model , which translates texts in dense vectors, enabling Semantic Search the Vector Store , where you safely save your texts and vectors, giving you a fast way to find all relevant docs A Reranker , which helps to refine your search The Large Language Model (LLM) In the beginning, you could think that the LLM is only useful at the end of the chain , when all the docs retrieved are put inside the context of the prompt, together with your request. There, it synthetizes the answer. But all the evolution we see today is often based on ideas on how to use more and more of the incredible power we have in current LLMs. Let us consider one important feature we want to have in a Knowledge Assistant: we want the assistant to keep the memory of all the previous questions and answers (message history) and use it to enable a more natural kind of conversation. For example, imagine that one of your questions is: "...
Continua a leggere