|
|
--- |
|
|
license: other |
|
|
license_name: cc-by-4.0 |
|
|
license_link: https://creativecommons.org/licenses/by/4.0/deed.en |
|
|
--- |
|
|
Proposte per la creazione di dataset per l’addestramento e il finetuning |
|
|
di LLM |
|
|
|
|
|
Versione 0.1 **Bozza** – Matteo Rinaldi – 3 Marzo 2024 – [CC |
|
|
BY](https://creativecommons.org/licenses/by/4.0/deed.en) |
|
|
|
|
|
# <span id="anchor"></span>Premessa |
|
|
|
|
|
Quello che segue è un breve documento dove ho raccolto delle idee in |
|
|
merito alla creazione di dataset per l’addestramento e il finetuning di |
|
|
Large Language Models. Va considerato esclusivamente come bozza e |
|
|
accenno a potenziali progetti da discutere ed eventualmente realizzare. |
|
|
|
|
|
Tutta la parte introduttiva si può saltare e andare direttamente |
|
|
all’elenco schematico delle proposte |
|
|
|
|
|
Non è stato riguardato più di tanto, non tutti i punti sono stati |
|
|
chiariti a sufficenza, e soprattutto ho ancora molte altre idee di cui |
|
|
vorrei discutere. |
|
|
|
|
|
Questo documento non è in uno stato che lo rende adatto a nessun tipo di |
|
|
pubblicazione o divulgazione: è fondamentalmente un abbozzo, scritto in |
|
|
un giorno solo, spesso in linguaggio colloquiale e dove sono state solo |
|
|
appuntate idee; lo condivido solo a causa dei rapidi mutamenti delle |
|
|
situazioni che potrebbero renderlo un pochino utile anche in questo |
|
|
stato scheletrico e perché ho promesso da un paio di settimane di |
|
|
scrivere un documento del genere ad alcuni membri della community |
|
|
Discord di Mii-LLM. Andando ad approfondire ogni punto e scrivendolo in |
|
|
un linguaggio accademico probabilmente il numero delle pagine andrebbe a |
|
|
triplicarsi. |
|
|
|
|
|
Vorrei rilasciarlo innanzitutto con grande umiltà: riconosco come non vi |
|
|
siano “grandi idee” al suo interno ma solo una schematizzazione di |
|
|
alcuni temi ricorrenti per quanto riguarda i dati per l’addestramento |
|
|
dei modelli. L’idea è che possa fungere da riferimento per altre idee e |
|
|
proposte; vuole essere un documento *collaborativo*, sarebbe bello |
|
|
lavorarci a più mani per arrivare a qualcosa di ancora più utile. Non |
|
|
sono neanche sicuro al momento della sua effettiva utilità, ripeto, lo |
|
|
rilascio con umiltà sperando che qualcuno lo apprezzi e lo trovi utile. |
|
|
Spero non sembri pretenzioso, non credo di avere in mano nessuna |
|
|
“ricetta segreta” per la risoluzione di un compito così complesso né |
|
|
penso di voler insegnare niente a nessuno. |
|
|
|
|
|
Lascio pertanto aperta un’istanza Etherpad: |
|
|
<https://pad.disroot.org/p/Proposte_per_LLM> dove poter scrivere |
|
|
qualsiasi commento, critica, aggiunta. Firmatevi. E si può pensare a una |
|
|
piattaforma collaborativa migliore. |
|
|
|
|
|
Consiglio anche la lettura del manifesto *LLMentor* che ho scritto quasi |
|
|
un anno fa come proposta di un progetto di crowdsourcing di dataset di |
|
|
instruction fine tuning rivolto a docenti universitari. Il link è qui: |
|
|
<https://github.com/manalog97/LLMentor> |
|
|
|
|
|
Manca inoltre la risposta alla domanda principale: *perché* vogliamo |
|
|
sviluppare un LLM? Quali fini ci stiamo proponendo? |
|
|
|
|
|
# <span id="anchor-1"></span>Una prolissa introduzione sull’importanza di modelli multiculturali e di qualità… si può saltare |
|
|
|
|
|
I due cardini fondamentali di questi dataset sono la qualità e l’essere |
|
|
multilingua. Per quanto riguarda il secondo punto, ciò significa |
|
|
sviluppare dataset in lingue diverse dall’inglese, nello specifico in |
|
|
italiano ma potenzialmente queste linee guida potrebbero applicarsi a |
|
|
progetti analoghi da svolgersi in luoghi diversi, in modo da giungere a |
|
|
una raccolta di dataset utili per l’addestramento di un vero modello |
|
|
multilingua, requisito che i modelli attuali non soddisfano se non |
|
|
parzialmente. \[Vedi:\] |
|
|
|
|
|
La situazione attuale, che vede una prevalenza eccessiva dell’inglese |
|
|
nei dati di addestramento, è particolarmente dannosa e critica negli |
|
|
aspetti non solo dell’accessibilità del modello a utenti che non parlano |
|
|
in inglese o che preferiscono utilizzare la loro lingua per interagire |
|
|
con le risorse basate sui LLM, ma anche per quanto riguarda questioni |
|
|
meno dibattute e che *non* sono risolvibili limitandosi a meccanismi |
|
|
basati sulla *traduzione*. L’appiattimento dei modelli sull’inglese |
|
|
significa anche un appiattimento dei modelli sulla cultura |
|
|
angloamericana, con il rischio di andare a far perdere d’importanza la |
|
|
pluralità di visioni del mondo a vantaggio di una visione anglocentrica |
|
|
assolutamente parziale e incapace di rispecchiare l’umanità nel suo |
|
|
complesso. La lingua non è un mero mezzo di codifica di informazioni, ma |
|
|
ha la capacità di dare forma al discorso e ritagliare i concetti in |
|
|
tanti modi quante sono le lingue esistenti (non ci si limita a parlare |
|
|
la lingua ma si è* *anche *parlati* da questa). Anche andando oltre le |
|
|
questioni di differenze linguistiche e semantiche, la lingua si fa anche |
|
|
portatrice di un certo contesto culturale, ed è nocivo che i modelli |
|
|
vengano allenati a considerare il resto del mondo in rapporto al mondo |
|
|
angloamericano; tale nocività non si ferma all’aspetto tecnico di |
|
|
corretto funzionamento dei modelli e usabilità da parte della |
|
|
popolazione globale, ma si estende fino a diventare un potenziale |
|
|
problema sociale ed etico non appena tali modelli nelle loro varie e |
|
|
ancora non ben definite declinazioni entreranno nella vita quotidiana e |
|
|
pubblica della popolazione. Ai fini di tale bozza, possiamo lasciare |
|
|
l’approfondimento dell’argomento a lavori successivi e proseguire con |
|
|
l’altro aspetto, quello relativo alla qualità. |
|
|
|
|
|
Tralasciando per ora discussioni sull’importanza del migliorare la |
|
|
qualità dei modelli per vari fini (sociali, accademici, di utilità |
|
|
contingente…), possiamo spostarci direttamente* in medias res* |
|
|
constatando in primo luogo la pressocchè totale assenza di dataset per |
|
|
il finetuning in italiano e in secondo luogo le criticità esistenti |
|
|
negli attuali dataset di finetuning pensati per l’inglese. |
|
|
|
|
|
I dataset italiani per il finetuning al momento reperibili e disponibili |
|
|
con licenze aperte sono per il momento mere traduzione di dataset |
|
|
inglesi; tale approccio, sebbene possa funzionare per effettuare qualche |
|
|
sperimentazione, non è adatto per lo sviluppo di modelli che siano |
|
|
autenticamente multilingua. Dal punto di vista lessicale e sintattico, |
|
|
*le traduzioni potrebbero conservare uno stile troppo aderente a quello |
|
|
della lingua inglese*, specialmente in considerazione del fatto che tali |
|
|
traduzioni vengono svolte non da traduttori professionisti ma in modo |
|
|
automatico. Il risultato potrebbe essere quello di un modello che, a una |
|
|
analisi più approfondita, non comunica effettivamente in italiano ma al |
|
|
contrario continuerebbe a parlare in inglese tradotto in italiano. *Dal |
|
|
punto di vista semantico e dei contenuti, tradurre, peraltro |
|
|
automaticamente, non contribuisce minimamente a mitigare quell’effetto |
|
|
di accentramento sulla cultura angloamericana di cui accennavamo in |
|
|
introduzione*. **Avere un modello che parla un italiano un po’ |
|
|
inglesizzato e che continua a riferirsi a situazioni, luoghi, fatti e |
|
|
persone tipiche degli Stati Uniti *****non***** è un modello |
|
|
multilinguistico e multiculturare.** |
|
|
|
|
|
Si rende pertanto necessario raccogliere grandi quantità di dati nelle |
|
|
lingue in cui si desidera che il modello possa operare. |
|
|
Preferiribilmente, la parte maggiore di questi dati dovrebbe riferirsi |
|
|
anche alla cultura del luogo in cui tale lingua è parlata: un libro |
|
|
scritto originalmente in italiano è da considerarsi un dato avente un |
|
|
valore maggiore di un libro scritto in inglese e tradotto in italiano. |
|
|
|
|
|
In questo documento non andrò a soffermarmi troppo sul dataset di |
|
|
pre-training, un dataset grande e che, per forza di cose, non può essere |
|
|
nella sua interezza considerabile “di qualità”. Si rende tuttavia |
|
|
necessario sviluppare anche dataset più piccoli di svariati ordini di |
|
|
grandezza che però si distinguano per la loro “qualità”. Uno tra i vari |
|
|
esempi di ricerche a supporto dell’aspetto qualità VS quantità è: |
|
|
\[phi-2, textbook are all you need\] |
|
|
|
|
|
\[Da continuare, bozza\!\!\!\] |
|
|
|
|
|
# <span id="anchor-2"></span>Dataset piccoli, specifici, curati |
|
|
|
|
|
Quelle che seguono sono idee per la creazione di dataset piccoli, |
|
|
specifici, curati e che quindi sono più adatti a fasi di finetuning |
|
|
piuttosto che di addestramento; ciò non toglie che, nel caso in cui |
|
|
durante lo sviluppo di un certo modello non si ritenga valido usarli per |
|
|
il fine-tuning, potrebbero tornare utilissimi come risorse per il |
|
|
pretraining. |
|
|
|
|
|
Criteri per la qualità \[bozza\]: |
|
|
|
|
|
Tematiche |
|
|
|
|
|
Attendibilità degli autori |
|
|
|
|
|
Difficoltà di ragionamento =\> Fondamentale perché è da qui che il |
|
|
modello farà astrazione sui dati facendo emergere le capacità più |
|
|
interessanti. |
|
|
|
|
|
## <span id="anchor-3"></span>Dataset 1: Coppie domande/risposta \[Instruction Fine-Tuning\] |
|
|
|
|
|
### <span id="anchor-4"></span>Accademiche |
|
|
|
|
|
È il dataset *classico* per il finetuning delle LLM in particolar modo |
|
|
quando finalizzato allo sviluppo di un *assistente* come ChatGPT o |
|
|
Gemini. Senza stare a specificare ora *perché* serve un tale tipo di |
|
|
dataset, vorrei presentare alcune possibili idee e linee guida. |
|
|
|
|
|
Le coppie D/R sono necessarie per fornire al modello l’astrazione |
|
|
necessaria per rispondere quando viene interrogato; per questo motivo, |
|
|
ritengo importante porre una certa dose di cura nel compilare tali dati. |
|
|
Sarebbe bene puntare a risposte che non siano semplificatorie e che |
|
|
affrontino anche temi molto complessi scendendo nei dettagli. |
|
|
|
|
|
Possibilità di realizzazione: |
|
|
|
|
|
- Coinvolgere studenti; [*tramite piattaforme, anche elementari, di |
|
|
crowdsourcing di cui discuteremo in |
|
|
seguito*](#5.L’Ipotetica%20piattaforma%20di%20crowdsourcing|outline), |
|
|
studenti volontari potrebbero caricare documenti contenenti coppie |
|
|
di domande e risposte basate sui loro appunti universitari o sulle |
|
|
loro conoscenze. Non si avrebbe la stessa garanzia di accuratezza |
|
|
come se quel materiale provenisse da docenti universitari (vedi |
|
|
progetto originale |
|
|
[*LLMentor*](https://github.com/manalog97/LLMentor)) ma comunque è |
|
|
da aspettarsi un materiale nel complesso più che valido, sicuramente |
|
|
superiore agli attuali dataset per il finetuning inglesi, composti |
|
|
per la maggioranza di contenuti generati automaticamente da altri |
|
|
LLM |
|
|
|
|
|
- Non tutte le coppie D/R sono uguali, per prima cosa concentriamoci |
|
|
sulle coppie D/R su argomenti specifici, ad esempio accademici. In |
|
|
questo caso, l’ideale sarebbe privilegiare argomenti che non |
|
|
lasciano troppo spazio a opinioni personali e si riferiscono a |
|
|
questioni più o meno assodate, per quanto un certo grado di dissenso |
|
|
potrebbe comunque risultare altamente utile (vedi: prospettivismo in |
|
|
AI). Nelle linee guida da fornire ai collaboratori sarebbe da |
|
|
reiterare più volte l’idea che *vengono privilegiati argomenti |
|
|
complessi*, anche molto specifici e, idealmente, che coinvolgono una |
|
|
certa dose di ragionamento e che l’eventuale ragionamento necessario |
|
|
sia spiegato per punti. Questo perché argomentazioni generali |
|
|
probabilmente saranno già ampiamente presenti nei dati di |
|
|
addestramento (es Wikipedia); sarebbe interessante mostrare al |
|
|
modello come affrontare domande complesse e rispondere a queste |
|
|
domande in modo approfondito e ragionato. |
|
|
|
|
|
Questo testo può essere saltato |
|
|
|
|
|
Modelli come ChatGPT 3 tendono spesso a una spiegazione di tipo |
|
|
enciclopedico, generalista, caratterizzata da una spesso inutilmente |
|
|
prolissa ripetizione di un contesto iniziale che va ad occupare gran |
|
|
parte della risposta per poi confinare la risposta effettiva alla |
|
|
domanda dell’utente in molto meno spazio. Gli argomenti vengono ogni |
|
|
volta “introdotti” spesso con lunghi giri di parole, in una forma che |
|
|
sembra imitare quella delle introduzioni di Wikipedia, anche quando |
|
|
l’utente chiede risposte dirette e specifiche. Sarebbe interessante |
|
|
pertanto sviluppare domande e risposte su più livelli, da una parte |
|
|
domande generali con risposte, giustamente, fornite di una introduzione, |
|
|
ma anche domande più specifiche e che, comprensibilmente, se vengono |
|
|
poste presuppongono che l’utente che le stia ponendo abbia un certo |
|
|
livello di conoscenza pregressa e desideri andare a fondo dell’argomento |
|
|
piuttosto che restarne in superficie. ChatGPT tende spesso a risposte |
|
|
nello stile “ELI5”, espressione nata su Reddit che significa “Spiegamelo |
|
|
come se stessi parlando con un bambino di cinque anni”. Ora, questo può |
|
|
andar bene per fare scalpore nel pubblico e può aver senso che un |
|
|
modello che aveva un po’ il ruolo di aprire la stagione dell’IA |
|
|
generativa al grande pubblico fosse impostato con questo stile, ma penso |
|
|
che adesso si possa chiedere di più a questi modelli e cercare di |
|
|
privilegiare la profondità alla semplicità. È vero che potrebbe darsi il |
|
|
caso che a porre una domanda complessa sia un utente poco ferrato nella |
|
|
materia che arrivi alla domanda quasi per caso, ma ciò non toglie che in |
|
|
questo caso l’utente stesso potrebbe chiedere una spiegazione più in |
|
|
generale al modello e inoltre non credo si debba dare priorità alle |
|
|
preferenze di utenti che cercano interazioni semplici e superficiali a |
|
|
scapito di utenze più interessate a tematiche complesse e di |
|
|
approfondimento. Il dataset di D/R dovrebbe, implicitamente, inferire il |
|
|
livello dell’interlocutore dalla domanda posta e rispondere di |
|
|
conseguenza. Conoscere l’utente è il modo migliore per soddisfarlo. |
|
|
|
|
|
### <span id="anchor-5"></span>Generali |
|
|
|
|
|
Riuscire ad ottenere questo dataset di D/R è più difficile rispetto a |
|
|
quello basato su argomenti accademici perché, al contrario di |
|
|
quest’ultimo, non segue dei “binari” stabiliti ma al contrario può |
|
|
toccare non solo qualsiasi argomento ma anche qualsiasi uso del |
|
|
linguaggio. |
|
|
|
|
|
Generare storie, rispondere a domande di senso comune, rispondere a |
|
|
curiosità, impersonare stili di scrittura… sono solo alcuni dei |
|
|
possibili task. È il dataset più difficile tra quelli presentati: |
|
|
|
|
|
- Si può spaziare su una infinita varietà di task, è difficile anche |
|
|
solo tirare giù una lista di idee e temi (invito a farlo su |
|
|
Etherpad\!); Si può prendere come spunto ad esempio l’ottimo (e |
|
|
piccolo) dataset “Norobots” |
|
|
(<https://huggingface.co/datasets/HuggingFaceH4/no_robots>). Si |
|
|
notano tematiche assolutamente varie: |
|
|
|
|
|
- Hobby (ricette di cucina, consigli per il fai da te...) |
|
|
|
|
|
- Aneddoti / cultura pop |
|
|
|
|
|
- Domande generali |
|
|
|
|
|
- Generazione di: |
|
|
|
|
|
- Storie |
|
|
- Poesie |
|
|
- Descrizioni per post social |
|
|
- E-mail |
|
|
- Slogan pubblicitari |
|
|
|
|
|
- Intrattenimento |
|
|
|
|
|
- Impersonare chatbot con stili di risposta e caratteristiche |
|
|
particolari |
|
|
|
|
|
- Task di NLU |
|
|
|
|
|
- Riassunti |
|
|
- Modifica e riscrittura del testo seguendo certe |
|
|
caratteristiche, come variazioni nei sentimenti, nello stile |
|
|
- Spiegazione di termini ed espressioni |
|
|
|
|
|
- Le risposte sono molto più arbitrarie rispetto al dataset D/R |
|
|
accademico, potrebbero con facilità contenere: |
|
|
|
|
|
- Opinioni personali degli annotatori |
|
|
- Bias di vario tipo |
|
|
- Considerazioni etiche |
|
|
- Qualità discutibile (è un po’ ridicolo da punto di vista |
|
|
letterario pensare che chiedere a un annotatore di “scrivere una |
|
|
poesia su X e Y” sia un modo per ottenere un esempio di una |
|
|
bella poesia) |
|
|
|
|
|
Al momento i dataset di instruction finetuning generali di questo tipo |
|
|
sono estremamente problematici da usare in un modello multiculturale: |
|
|
sfogliando uno qualsiasi di questi dataset si nota una quantità |
|
|
eccessiva di riferimenti agli Stati Uniti. |
|
|
|
|
|
È molto complicato sviluppare un dataset di questo tipo senza un |
|
|
significativo investimento economico per assumere degli annotatori |
|
|
professionisti. Fino a dove ci si potrebbe spingere con il |
|
|
crowdsourcing? Che tipologie di volontari cercare? Come verificare la |
|
|
qualità dei dati? |
|
|
|
|
|
Nonostante queste difficoltà, si potrebbe provare ad individuare dei |
|
|
sotto-task che siano più semplici e soprattutto meno problematici. La |
|
|
generazione di contenuto creativo come poesie e racconti è sicuramente |
|
|
difficile, tuttavia altri task potrebbero essere somministrati anche |
|
|
sottoforma di “gioco” a dei collaboratori volontari. Ad esempio |
|
|
riassumere brevi testi, cambiarne lo stile da formale a informale, |
|
|
risposte semplici e brevi a qualche domanda generale… |
|
|
|
|
|
Idee? |
|
|
|
|
|
## <span id="anchor-6"></span>Dataset 2: Comprensione del testo |
|
|
|
|
|
Questo sarebbe un bellissimo dataset, per la cui realizzazione si |
|
|
potrebbe chiedere il favore principalmente a studenti di discipline |
|
|
umanistiche. |
|
|
|
|
|
Sempre rimanendo in tema comprensione del testo, credo che vi possano |
|
|
essere dei compiti che generalmente non vengono fatti svolgere agli |
|
|
esseri umani ma che potrebbero comunque risultare particolarmente utili |
|
|
per i LLM: |
|
|
|
|
|
- Elencare tutti gli “enti” presenti in un testo, le loro relazioni e |
|
|
i loro aggettivi; un compito più di tipo NLP classico, che potrebbe |
|
|
essere molto utile con testi complessi; |
|
|
|
|
|
- Le LLM hanno notoriamente difficoltà quanto i contenuti sono |
|
|
*referenziali* ovvero quando avrebbero bisogno dell’apporto di |
|
|
informazioni multimodali per essere compresi. Si potrebbe pensare |
|
|
quindi a compiti di spiegazione delle situazioni: |
|
|
|
|
|
I testi di alcuni cantautori classici italiani (penso a De Andrè, |
|
|
Guccini, Battiato, Vecchioni, De Gregori…) sarebbero estremamente adatti |
|
|
a questo tipo di task. In particolare De Andrè fa un utilizzo molto |
|
|
avanzato della lingua e i suoi testi sono spesso di non univoca |
|
|
interpretazione, ricchi di immagini visive ecc… la questione da capire è |
|
|
il copyright. Fair use? Diritto di citazione? |
|
|
|
|
|
Questi un paio di esempi fatti al volo, con “L’Ultimo Spettacolo” di |
|
|
Vecchioni e “Il Ritorno di Giuseppe” di De Andrè. A mio avviso ChatGPT |
|
|
3.5 si è comportato malissimo con questo tipo di compito. Non sono |
|
|
esempi esaustivi di quello che ho in mente e che spero di aver fatto |
|
|
capire nei punti precedenti, comunque è un punto di partenza: |
|
|
|
|
|
<https://chat.openai.com/share/6c65122e-5f3b-4417-ab54-7eb4e3f78436> |
|
|
|
|
|
<https://chat.openai.com/share/d159037b-d50e-41dc-a1f5-42d423fa3352> |
|
|
|
|
|
Tra l’altro sarebbe anche da affrontare la questione contenuti |
|
|
sessuali/violenti eccetera. Quando si interpreta un’opera artistica, è |
|
|
assurdo fare censura su questo tipo di tematiche… \[punto da |
|
|
approfondire\] |
|
|
|
|
|
|
|
|
Vedi in appendice: [Task linguistici (ispirati da vecchi siti di |
|
|
materiale didattico trovati |
|
|
online):](#1.1.Task%20linguistici%20\(ispirati%20da%20vecchi%20siti%20di%20materiale%20didattico%20trovati%20online\):|outline) |
|
|
|
|
|
In definitiva, i compiti di comprensione del testo sarebbero una risorsa |
|
|
fondamentale da inserire nei dataset considerata la loro grande |
|
|
rilevanza nei compiti di Natural Language Understanding. Si può pensare |
|
|
di andare oltre i tipici esercizi di comprensione del testo (per quanto |
|
|
fondamentali) e pensare a esercizi mirati per le LLM che vadano a |
|
|
lavorare laddove si notano più mancanze. Ci si deve soffermare anche su |
|
|
aspetti particolarmente banali della comprensione, banali per un essere |
|
|
umano ma che potrebbero mettere in luce comportamenti più da “pappagallo |
|
|
stocastico” dei LLM piuttosto che da un modello capace di comprendere. |
|
|
Idee a proposito? |
|
|
|
|
|
## <span id="anchor-7"></span>Dataset 3: Ragionamento e Chain of Thought |
|
|
|
|
|
Rafforzare le abilità di ragionamento è un altro compito fondamentale |
|
|
nell’addestramento di LLM utili e di qualità. “Ragionamento” è un altro |
|
|
termine complesso e ambiguo. Si rimanda ad altro tempo e luogo per una |
|
|
discussione su cosa si intenda per ragionamento, tuttavia, provo ad |
|
|
elencare alcune bozze di idee. |
|
|
|
|
|
### <span id="anchor-8"></span>Enigmistica |
|
|
|
|
|
Il materiale pensato per l’enigmistica può essere a mio avviso |
|
|
estremamente utile per l’addestramento di modelli nella speranza di |
|
|
osservare abilità emergenti relative al ragionamento: |
|
|
|
|
|
- Enigmi gialli/polizieschi: questo tipo di enigmi racchiudono diverse |
|
|
caratteristiche particolari che possono tornare utili: |
|
|
|
|
|
- Richiedono una comprensione avanzata del testo, ovvero 1) |
|
|
attenzione a tutti i dettagli che possono servire a risolvere il |
|
|
caso, anche dettagli piccoli che possono sfuggire a una lettura |
|
|
non accurata; 2) Creazione di un “modello situazionale del |
|
|
mondo” accurato e corrispondente a quanto si vuole esprimere |
|
|
nel testo; 3) Abilità di tenere nella memoria a breve termine |
|
|
una rappresentazione schematica di tutti gli indizi |
|
|
potenzialmente ricavabili dal testo sia le cose ovvie che le |
|
|
nascoste; 4) capacità di filtrare il contenuto non necessario; |
|
|
5) applicazione di un metodo logico-deduttivo per risolvere |
|
|
caso; 6) applicazione del pensiero laterale per risolvere il |
|
|
caso |
|
|
- Si possono scrivere o (meglio) recuperare già fatti, sperando in |
|
|
licenze permissive. L’importante è che vi sia il testo ma anche |
|
|
la soluzione, possibilmente ben argomentata (Chain of Thoughts) |
|
|
|
|
|
- Cruciverba: meravigliosi esempi di definizioni complesse e ambigue |
|
|
delle parole italiane; |
|
|
|
|
|
- Indovinelli |
|
|
|
|
|
- Eccetera eccetera. Praticamente ogni materiale enigmistico potrebbe |
|
|
risultare utile. Inutile dire che un dump della *Settimana |
|
|
Enigmistica* sarebbe una risorsa fantastica, ma impossibile per |
|
|
chiare ragioni di copyright. In teoria tutti i numeri dal 1932 al |
|
|
1954 sono ormai di pubblico dominio, ma come recuperarli e |
|
|
digitalizzarli? Comunque, online si trova del materiale e anche qui |
|
|
si potrebbe generare oppure scrivere a enigmisti (come Giorgio |
|
|
Dendi, noto per gli enigmi che stimolano il **pensiero lateriale**) |
|
|
sperando che abbiano voglia di donare del vecchio materiale |
|
|
|
|
|
### <span id="anchor-9"></span>Ragionamento filosofico |
|
|
|
|
|
Fonte dal grandissimo potenziale. |
|
|
|
|
|
Paragrafo da approfondire moltissimo, intanto, appunti (bozza\!\!\!) : |
|
|
|
|
|
- Logica: dataset di fallacie, dataset di ragionamenti \[studenti di |
|
|
filosofia?\] |
|
|
- Argomentazioni filosofiche, classiche e non. Esposizione, commento, |
|
|
critica, controargomentazioni… |
|
|
- Estrazione dell’argomentazione da un testo |
|
|
- Dialoghi, discorsi… Questa potrebbe essere una risorsa fondamentale |
|
|
per le questioni legate all’etica: proporre un’argomentazione, |
|
|
confutarla, controargomentarla eccetera eccetra |
|
|
- Sia materiale di recupera ma sarebbe stupendo stendere testi, anche |
|
|
brevi, che però siano ottimi dal punto di vista dell’argomentazione |
|
|
filosofica |
|
|
|
|
|
### <span id="anchor-10"></span>Ragionamento scientifico |
|
|
|
|
|
(bozza\!\!\!) Problemi scientifici di qualsiasi tipo che necessitano di |
|
|
un metodo di risoluzione logico rigoroso. Inutile fare esempi, se ne |
|
|
possono fare a centinaia e tutti molto banali. Praticamente tutte gli |
|
|
argomenti scientifici (matematica, logica, chimica…) offrono infinite |
|
|
possibilità in questo campo. Sarebbe da capire come recuperarne una |
|
|
grande quantità. Altrettanto interessante quando questo tipo di |
|
|
ragionamento può estendersi a situazioni che non siano legate alle |
|
|
scienze due o ingegneristiche ad esempio problemi di vita quotidiana, |
|
|
|
|
|
È interessante adottare metodi di ragionamento chiari ed espliciti: |
|
|
individuare le premesse, mostrare le possibili alternative errate, |
|
|
indicare proposte su come risolvere il problema ed eventualmente |
|
|
falsificarle. Sfruttare Chain of Thought. |
|
|
|
|
|
### <span id="anchor-11"></span>Ragionamento “in generale” |
|
|
|
|
|
(bozza\!\!\!) |
|
|
|
|
|
### <span id="anchor-12"></span>Dataset 4: Orientamento spaziale e altri task (piccolo) |
|
|
|
|
|
Un dataset piccolo, molto più piccolo rispetto agli altri proposti, da |
|
|
fare a mano lavorando per poco tempo anche in un piccolo gruppo. È un |
|
|
dataset un po’ atipico che però può avere fondamenti scientifici validi, |
|
|
riassumo superficialmente in poche righe, il tutto si potrebbe |
|
|
argomentare decisamente meglio ma è giusto per dare un’idea: |
|
|
|
|
|
**Tolman** negli anni “40 propone il concetto di *mappa cognitiva* per |
|
|
spiegare perché i topi fossero in grado di orientarsi in labirinti |
|
|
utilizzati in laboratorio e in particolare perché fossero in grado di |
|
|
*trovare scorciatoie* per raggiungere gli obiettivi; l’idea è che i |
|
|
mammiferi formino nel cervello una mappa dello spazio in cui si trovano |
|
|
che gli consente di trovare percorsi vantaggiosi. Negli anni “80 i |
|
|
coniugi **Moser** scoprono il sistema di orientamento |
|
|
ippocampale-entorinale: *place cells* nell’ippocampo e in seguito *grid |
|
|
cells *e altri neuroni specifici come *head cells* e altri ancora; molto |
|
|
in breve, esistono neuroni che 1) si “accendono” quando ci si trova in |
|
|
un determinato luogo (place cells) 2) complementari a questi c’è un |
|
|
sistema di mappatura esagonale dello spazio (*grid cells*) che può |
|
|
riprogrammarsi a seconda del compito e che fornisce metriche univoche di |
|
|
distanza e direzione. **Bellmund et al, 2019**: studi relativi alla |
|
|
possibilità che questo modello di mappe cognitive evidenziato nel |
|
|
sistema ippocampale-entorinale sia in funzione anche nel pensiero |
|
|
astratto: **mappe contettuali** analoghe a quelle spaziali. L’idea è che |
|
|
“orientarsi” nei concetti sfrutti gli stessi meccanismi neuronali |
|
|
utilizzati per orientarsi nello spazio: le nozioni di distanza |
|
|
concettuale, iperonimia e iponimia, generalizzazione, clustering di |
|
|
argomenti simili eccetera (tutte tematiche fondamentali per il NLU e che |
|
|
potrebbero portare a fruttuose innovazioni *architetturali* dei modelli |
|
|
oltre il Transformer vanilla) sono in questo paper collegate ai |
|
|
meccanismi di orientamento spaziale. Anche il fatto che le metafore |
|
|
concettuale si riferiscono spesso a dinamiche spaziali è a supporto di |
|
|
questa tesi. |
|
|
|
|
|
**Whittington, Behrens, **2022: RELATING TRANSFORMERS TO MODELS AND |
|
|
NEURAL REPRESENTATIONS OF THE HIPPOCAMPAL FORMATION |
|
|
|
|
|
Many deep neural network architectures loosely based on brain networks |
|
|
have recently been shown to replicate neural firing patterns observed in |
|
|
the brain. One of the most exciting and promising novel architectures, |
|
|
the Transformer neural network, was developed without the brain in mind. |
|
|
In this work, we show that transformers, when equipped with recurrent |
|
|
position encodings, replicate the precisely tuned spatial |
|
|
representations of the hippocampal formation; most notably place and |
|
|
grid cells. Furthermore, we show that this result is no surprise since |
|
|
it is closely related to current hippocampal models from neuroscience. |
|
|
We additionally show the transformer version offers dramatic performance |
|
|
gains over the neuroscience version. This work continues to bind |
|
|
computations of artificial and brain networks, offers a novel |
|
|
understanding of the hippocampal-cortical interaction, and suggests how |
|
|
wider cortical areas may perform complex tasks beyond current |
|
|
neuroscience models such as language comprehension. |
|
|
|
|
|
Yamada et al, 2023: “Evaluating Spatial Understanding of Large Language |
|
|
Models” |
|
|
|
|
|
Mi scuso per la natura estremamente abbozzata di questo paragrafo, che |
|
|
vorrei approfondire accuratamente e ritengo estremamente interessate. |
|
|
Serve tuttavia a giustificare il tipo di task che vorrei proporre ovvero |
|
|
**orientamento, con identificazione di percorsi ottimali, in ambienti |
|
|
spaziali descritti in linguaggio naturale**. |
|
|
|
|
|
Si possono prendere mappe di città, descriverle a diversi livelli di |
|
|
granularità (zone con singole strade, intera città con quartieri e punti |
|
|
cardinali) e: ad esempio: 1) Descrivere percorsi ottimi 2) Giungere a |
|
|
conclusioni del tipo “se vado verso est *allora* mi trovo davanti a X” e |
|
|
task di questo tipo. |
|
|
|
|
|
Oltre a città, si può pensare anche a problemi di orientamento in luoghi |
|
|
generici, come case, ambienti ristretti come ciò che si può vedere da |
|
|
una finestra, luoghi immaginari (magari fare un disegno su carta per |
|
|
evitare errori) eccetera. È un task divertente su cui si può usare molta |
|
|
fantasia, l’unico requisito è rimanere coerenti e possibilmente scrivere |
|
|
task difficili. |
|
|
|
|
|
Task di questo tipo potrebbero essere interessanti sia per |
|
|
l’addestramento che per il benchmark perché presuppongono abilità |
|
|
complesse di generalizzazione e astrazione; potrebbero anche servire a |
|
|
guidare eventuali innovazioni architetturali specialmente nel caso in |
|
|
cui l’ipotesi esposta brevemente sopra del collegamento tra mappe |
|
|
concettuali, analogie tra il sistema neuronale di orientamento spaziale |
|
|
e concettuale e utilizzabilità di questi concetti da parte di modelli |
|
|
ANN fosse rafforzata. |
|
|
|
|
|
### <span id="anchor-13"></span>Dataset 5: Brevi testi estremamente curati |
|
|
|
|
|
Coinvolgere i docenti universitari in un lavoro tipo LLMentor? |
|
|
[*https://github.com/manalog97/LLMentor*](https://github.com/manalog97/LLMentor) |
|
|
|
|
|
Vedi anche: [*L’ipotetica piattaforma di |
|
|
crowdsourcing*](#4.L’Ipotetica%20piattaforma%20di%20crowdsourcing|outline) |
|
|
in particolare “Donazione di tesi e appunti” |
|
|
|
|
|
### <span id="anchor-14"></span>Dataset 5...∞: Idee? |
|
|
|
|
|
# <span id="anchor-15"></span>I dataset “grandi” di pretraining – Lo scraping |
|
|
|
|
|
### <span id="anchor-16"></span>I “grandi classici” |
|
|
|
|
|
Inutile ora dilungarsi troppo: Wikipedia, Wikisource, Wikitionary |
|
|
eccetera eccetera. Da prendere così come sono. Ovviamente non sono |
|
|
perfetti, possiamo stare a trovare infinite criticità ma credo siano un |
|
|
punto di partenza perfetto. |
|
|
|
|
|
### <span id="anchor-17"></span>Libri di pubblico dominio |
|
|
|
|
|
Inutile stare ad argomentare ora perché sono importanti. **Liber Liber** |
|
|
è una fantastica risorsa con circa 4500 libri di pubblico dominio pronti |
|
|
per essere inseriti nel dataset. Il lavoro è praticamente completato: un |
|
|
annetto fa, più per esercizio personale che altro, avevo rifatto il sito |
|
|
di liber liber passando dal loro sistema basato su campi di testo a un |
|
|
più efficiente DB relazionale. Il lavoro non è più andato avanti perché |
|
|
non c’è stato un grande interesse da parte della comunità di Liber |
|
|
Liber; in compenso, avendo già questo DB con tutti i libri di Liber |
|
|
Liber fino a Maggio 2023 circa, è stato semplice scaricare tutti i Link. |
|
|
Ringrazio Ruggero per la deduplicazione. Il dataset è già su HF ma |
|
|
purtroppo per uno stupido errore circa 1000 libri sono mancanti. |
|
|
Risolverò la cosa il prima possibile, è molto facile recuperare gli |
|
|
altri. |
|
|
|
|
|
Vanno recuperati anche da altre risorse\! Project Gutenberg in Italiano |
|
|
è un punto di partenza ma poi, andando a cercare nei cataloghi delle |
|
|
biblioteche online, si possono trovare tante altre risorse\! Il problema |
|
|
più grave è quello relativo a scansioni e OCR. |
|
|
|
|
|
### <span id="anchor-18"></span>Usenet e forum |
|
|
|
|
|
Effettuare lo scraping di fora online è una pratica ampiamente |
|
|
utilizzata nella creazione di dataset per l’addestramento di modelli |
|
|
linguistici. Nei dataset in inglese attualmente esistenti, si nota come |
|
|
Reddit, Quora e StackExchange (piattaforme “moderne”) siano spesso fonti |
|
|
di testo ampiamente presenti nei dati di addestramento. |
|
|
|
|
|
I fora \[approfondimenti su cosa sono, storia eccetera rimandati a |
|
|
eventuali documenti successivi\] sono una risorsa interessante da |
|
|
includere in un dataset di pretraining. Ci sono degli aspetti |
|
|
problematici come la non verificabilità delle informazioni presenti al |
|
|
loro interno, la possibile presenza di linguaggio tossico e litigi, |
|
|
spesso offensivi (*flame*) tra utenti; nel caso di Usenet c’è anche un |
|
|
certo quantitativo di spam, fortunatamente facilmente identificabile, e |
|
|
la presenza di un linguaggio in certi casi per nulla moderato. |
|
|
Nonostante questi problemi, tuttavia sono anche tanti i punti a sostegno |
|
|
dell’inclusione di questo materiale nei dataset: i fora sono spesso una |
|
|
miniera di informazioni, dettagliate, precise, fornite negli anni da |
|
|
gruppi di utenti particolarmente appassionati ed esperti su specifici |
|
|
argomenti. È possibile trovare al loro interno informazioni non |
|
|
ottenibili altrimenti, frutto spesso di pratica e di esperienze |
|
|
personali. Le informazioni sono organizzate in *discussioni*, quindi |
|
|
seguendo un modello dialogico, il che è importante nell’addestramento di |
|
|
modelli linguistici specie nell’ottica di sviluppare assistenti |
|
|
virtuali. Ci sono fora riguardanti specifici argomenti e, in particolare |
|
|
quando tale argomento è molto delineato, si possono trovare discussioni |
|
|
tecniche di altissimo livello e, spesso, corrette anche perché |
|
|
sottoposte al vaglio di numerosi altri utenti che eventualmente possono |
|
|
dibattere e commentare. Questo dibattito e commento è certamente |
|
|
istruttivo per i modelli nel riuscire ad esporre i concetti |
|
|
argomentandoli e sottoponendoli a critiche. La discussione sui vantaggi |
|
|
dei forum per l’addestramento può andare avanti, ma intato, |
|
|
ricapitoliamo il lavoro fatto e da fare in merito: |
|
|
|
|
|
#### <span id="anchor-19"></span>Usenet |
|
|
|
|
|
Scriverò una bella introduzione su Usenet, per ora, basta ricordare che |
|
|
si tratta di una piattaforma distribuita (non centralizzata) facente |
|
|
parte della primissima generazione di Internet, essendo stata sviluppata |
|
|
negli anni Settanta, ben prima della nascita del web. Per quanto |
|
|
riguarda l’Italia, siamo riusciti a raccogliere contenuti dal 1994, anno |
|
|
di nascita della gerarchia “\*.it”. L’archivio più grande di discussioni |
|
|
Usenet è presente sulla piattaforma “Google Groups” di Google, |
|
|
piattaforma tra l’altro che proprio il 22 Febbraio di quest’anno ha |
|
|
cessato di raccogliere nuovi contenuti. |
|
|
|
|
|
Un lavoro molto dispendioso in termini di tempo e di risorse |
|
|
computazionali per effettuare lo scraping delle gerarchie “\*.it” e |
|
|
“\*.italia” dalle pagine di Google Groups è stato effettuato dal |
|
|
sottoscritto a Febbraio 2024. Lo scraping è stato effettuato con degli |
|
|
script Python basati sulla libreria Selenium [che verranno resi |
|
|
disponibili su GitHub](https://github.com/manalog97/GGetter). Il |
|
|
risultato è un archivio di circa 75GB contenente XXX discussioni divise |
|
|
in XXX newsgroup tematici. [In appendice la gerarchia dei newsgroup |
|
|
scaricati.](#7.3.Statistiche%20temporanee%20scraping%20di%20Usenet:|outline) |
|
|
Seguiranno a breve delle statistiche sul materiale scaricato come: |
|
|
quantità di conversazioni, quantità di messaggi, quantità di messaggi |
|
|
per newsgroup, quantità di messaggi per anno, quantità di messaggi per |
|
|
newsgroup e anno e così via. |
|
|
|
|
|
Come si evince osservando la gerarchia, le tematiche trattate sono |
|
|
svariate e abbracciano un arco diacronico particolarmente lungo (circa |
|
|
trent’anni). I newsgroup hanno conosciuto un calo di popolarità dopo il |
|
|
2012 circa a causa del diffondersi dei social network (centralizzati e |
|
|
proprietari) ma comunque è presente un significativo numero di messaggi |
|
|
anche relativi all’ultimo decennio. |
|
|
|
|
|
Attualmente per ogni newsgroup esiste un file JSON contentente tutti i |
|
|
dati necessari all’organizzazione dei messaggi nel newsgroup: |
|
|
|
|
|
{title, original\_url, newsgroup, messages: \[author, day, month, year, |
|
|
hours, minute, am/pm, text\]} |
|
|
|
|
|
Prima del caricamento su Hugging Face, che avverrà in settimana, i dati |
|
|
saranno riorganizzati in file JSONL aventi come struttura: |
|
|
|
|
|
{title, author, id, progressive\_number, endflag, timestamp, newsgroup, |
|
|
original\_url, text} |
|
|
|
|
|
Dove progressive\_number rappresenta l’andamento della discussione (a |
|
|
partire da “0” per il primo messaggio) e il dato booleano endflag vale 1 |
|
|
se si è arrivati all’ultimo messaggio della discussione. Il timestamp |
|
|
sarà in formato ISO-8601-1 |
|
|
|
|
|
Si tratta di una struttura dati altamente inefficiente e ridondante |
|
|
(campi come title, original\_url, newsgroup saranno ripetuti milioni di |
|
|
volte) ma al momento è l’unica soluzione pensata per rendere il dataset |
|
|
facilmente fruibile su HuggingFace. La struttura più adatta al dataset |
|
|
sarebbe sicuramente quella di un DB relazionale: |
|
|
|
|
|
Conversazioni (id,titolo,newsgroup,url) |
|
|
|
|
|
Messaggi(id,id\_conversazione,autore,dataeora,testo) |
|
|
|
|
|
ma al momento questa strada non sembra essere percorribile sulla |
|
|
piattaforma HuggingFace. |
|
|
|
|
|
La compressione con buoni algoritmi come LZMA2 o Bzip2 consentono |
|
|
tuttavia di ovviare a questa ridondanza in termini di occupazione di |
|
|
spazio su disco. |
|
|
|
|
|
Il dataset di Usenet è già completo, al momento conservato su un hard |
|
|
disk esterno e in settimana sarà caricato su HuggingFace e Archive.org. |
|
|
Potrebbe risultare il dataset in Italiano per task di NLP più grande tra |
|
|
quelli liberamente disponibili. |
|
|
|
|
|
Ringrazio *Ruggero* per il costruttivo confronto durante questo progetto |
|
|
e per avere scaricato gli ultimi due *giga* di materiale quando le mie |
|
|
risorse computazionali non erano più sufficienti, oltre che per aver |
|
|
evidenziato il problema dell’usare il JSON originale come dataset di |
|
|
HuggingFace. |
|
|
|
|
|
#### <span id="anchor-20"></span>Forum |
|
|
|
|
|
Ho scritto uno script Python, basato su Beautiful Soup, adatto a |
|
|
scaricare per intero qualsiasi forum. Occorre solo individuare dei campi |
|
|
specifici con un browser internet (div con contenuto, div con titolo, |
|
|
tag che individuano autore e data, meccanismo di paginazione, logica |
|
|
dell’URL, numero massimo di discussioni), inserirli nello script ed |
|
|
eseguirlo. |
|
|
|
|
|
Ho fatto partire ieri lo scraping di alcuni piccoli forum: |
|
|
matematicamente (matematica), analogica (fotografia) e electroyou |
|
|
(elettronica) per testare lo script e sembra funzionare tutto |
|
|
correttamente. Sto compilando una lista di forum che potrebbe valer la |
|
|
pena scaricare, indicativamente si riusciranno a ottenere in questo modo |
|
|
altri 30GB circa di materiale testuale. A differenza di Usenet, qui |
|
|
potrebbero sorgere questioni legate al copyright pertanto *sarebbe bene |
|
|
sentire al più presto un esperto di diritto.* |
|
|
|
|
|
### <span id="anchor-21"></span>Riviste accademiche delle Università italiane |
|
|
|
|
|
Punto da approfondire; comunque: ho scoperto che quasi tutte le |
|
|
università italiane hanno portali di questo tipo: |
|
|
|
|
|
<https://ojs.unito.it/> |
|
|
|
|
|
<https://rosa.uniroma1.it/> |
|
|
|
|
|
<http://www.serena.unina.it/> |
|
|
|
|
|
eccetera eccetera. |
|
|
|
|
|
Sono riviste di altissima qualità, su tematiche accademiche specifiche e |
|
|
complesse che sarebbero una risorsa magnifica per i dataset di |
|
|
pretraining. Una risorsa così tanto di qualità è probabilmente assente |
|
|
anche in rinomati dataset americati. *Bisogna capire la questione |
|
|
copyright: sono tendenzialmente in open access e licenza CC-BY-SA-ND*. |
|
|
Possiamo inserirle nei dataset? |
|
|
|
|
|
## <span id="anchor-22"></span>Concorsi pubblici |
|
|
|
|
|
Sito scoperto per caso proprio oggi mentre scrivevo questo documento: |
|
|
|
|
|
<https://www.concorsipubblici.com/quiz/categorie/comprensione-di-testi-1731> |
|
|
|
|
|
Una miniera di risorse perfette per creare dataset di instruction |
|
|
finetuning. Numerosi esempi di comprensione del testo. Che ne pensate? |
|
|
Comincio volentieri a riflettere su come effettuare uno scraping |
|
|
sensato. |
|
|
|
|
|
## <span id="anchor-23"></span>Materiale legale di pubblico dominio |
|
|
|
|
|
Sentenze, atti di processo, codici... |
|
|
|
|
|
### <span id="anchor-24"></span>Altro materiale online (senza esagerare… inutile pensare di rifare a mano Common Crawl) |
|
|
|
|
|
…………….Possiamo scrivere una grande lista |
|
|
|
|
|
# <span id="anchor-25"></span>L’Ipotetica piattaforma di crowdsourcing |
|
|
|
|
|
\[BOZZA\!\!\!\] |
|
|
|
|
|
Punto importante, ma anche questo verrà lasciato qui solo abbozzato. |
|
|
Però: |
|
|
|
|
|
1. [LLMentor](https://github.com/manalog97/LLMentor): possibile |
|
|
piattaforma indirizzata a persone del mondo accademico |
|
|
|
|
|
2. Espandere LLMentor con accesso a studenti universitari che |
|
|
potrebbero: |
|
|
|
|
|
1. “Donare” la loro tesi |
|
|
2. “Donare” i loro appunti |
|
|
3. Scrivere coppie domande e risposte |
|
|
4. Valutare le prestazioni dei modelli esistenti |
|
|
5. Discutere tra di loro |
|
|
|
|
|
3. Una sottosezione di LLMentor potrebbe essere aperta al pubblico |
|
|
generale con vari task simil-Amazon Mechanical Turk/LabelStudio come |
|
|
|
|
|
1. Proporre domande generaliste |
|
|
2. Effettuare valutazioni |
|
|
|
|
|
Punto da approfondire molto\! |
|
|
|
|
|
Comunque, è naturale che un progetto di crowdsourcing opensource |
|
|
rispetto a un progetto con annotatori pagati fornirà risultati di |
|
|
qualche ordine di grandezza inferiore. È inoltre ancora più difficile a |
|
|
causa del fatto che, al fine di privilegiare la qualità, si stia anche |
|
|
facendo una selezione sugli ipotetici volontari (universitari, |
|
|
dottorandi, docenti…) Tuttavia, credo che possa valere la pena provare a |
|
|
patto di non investire troppe risorse nella piattaforma (La base di |
|
|
LLMentor è quasi pronta, codice semplice scritto a mano ma funzionante) |
|
|
dal momento che: |
|
|
|
|
|
1. C’è un grande interesse del pubblico generale per questa tecnologia; |
|
|
2. Si potrebbe contribuire anche con una quantità molto piccola di |
|
|
tempo, come pochi minuti per caricare materiale come tesi e appunti |
|
|
o poche ore per scrivere qualche decina di domande e risposte; |
|
|
3. Si potrebbero fornire considerazioni etiche che possano far capire a |
|
|
un pubblico di studenti sensibili quanto sarebbe utile contribuire |
|
|
allo sviluppo di modelli aperti, di qualità e multiculturali |
|
|
|
|
|
Da brevi discussioni informali fatte nell’ambiente universitario, sembra |
|
|
che ci siano studenti che parteciperebbero volentieri a un progetto |
|
|
simile. Sono molti gli esempi di progetti senza fini di lucro nel web |
|
|
che poi portano a risultati considerevoli, come Wikipedia o la |
|
|
piattaforma di calcolo distribuito “Boinc”. Motivare i volontari, |
|
|
ringraziarli e magari farli divertire con idee stimolanti e *gamificare* |
|
|
il tutto con punti e classifiche potrebbe portare a una discreta |
|
|
adozione. Si potrebbero inoltre incollare volantini ben fatti nelle |
|
|
varie Università italiane e magari sperare nella collaborazione delle |
|
|
Università stesse. |
|
|
|
|
|
# <span id="anchor-26"></span>Sintetico o naturale? |
|
|
|
|
|
\[BOZZA\!\!\!\] |
|
|
|
|
|
Scriverò qualcosa sulla questione dataset sintetico e naturale, per ora, |
|
|
appunti: |
|
|
|
|
|
- Ovviamente avere una grande mole di dati in naturale è estremamente |
|
|
complesso; |
|
|
- I dati naturali sono però ancora al momento insostituibili. |
|
|
Esagerare con i sintetici può portare alla “Mucca Pazza”. Con i |
|
|
sintetici continueremmo inoltre ad avere il problema |
|
|
dell’appiattimento sulla cultura angloamericana (forse Mistral |
|
|
migliora le cose?); |
|
|
- Si potrebbe però provare ad estendere i dati con metodologie |
|
|
sintetiche, basate però sulla riproduzione dei “nostri” piccoli |
|
|
dataset di finetuning curati, in modo da avere un maggior controllo |
|
|
sulla qualità rispetto che lasciare i modelli “a ruota libera” |
|
|
|
|
|
# <span id="anchor-27"></span>Problemi aperti |
|
|
|
|
|
- Copyright\! |
|
|
- Molto altro... |
|
|
|
|
|
# <span id="anchor-28"></span>Appendici: |
|
|
|
|
|
## <span id="anchor-29"></span>Un “appoggio” di link con materiale didattico |
|
|
|
|
|
Scrivendo questa bozza, mi sono imbattuto in alcuni siti con materiale |
|
|
didattico per le scuole che potrebbe essere utile tenere in |
|
|
considerazione. In gran parte si tratta di siti molto vecchi e quindi i |
|
|
problemi di copyright potrebbero essere più gestibili. |
|
|
|
|
|
Questi link non sono *assolutamente* esaustivi, sono stati trovati oggi |
|
|
in pochi minuti; invito a cercare più materiale. |
|
|
|
|
|
- <https://digilander.libero.it/italianonelbiennio/> |
|
|
- <https://digilander.libero.it/uraniaceleste/> |
|
|
- <http://www.lineadidattica.altervista.org/materiali_didattici.html> |
|
|
- <https://rossanaweb.altervista.org/blog/area-studenti/esercizi-online/esercizi-online-di-italiano/> |
|
|
- <https://www.profgiuseppebettati.it/> |
|
|
- <http://www.apprendendo.altervista.org/italiano.html> |
|
|
- <https://italianoperstranieri.altervista.org/> |
|
|
- <https://www.profwaltergalli.it/per-i-docenti/mediatori-didattici-sottosezioni-da-1-a-7/1-siti-didattici-per-tutte-le-discipline/> |
|
|
- <http://www.apprendendo.altervista.org/didattica%20online.html> |
|
|
- <https://library.weschool.com/> **(\!\!\!)** |
|
|
- <https://italianoinlinea.com/cruciverba-per-imparare-litaliano/> |
|
|
- <https://digilander.libero.it/sussidi.didattici/> |
|
|
- <http://www.bibliolab.it/lessico/lessico_index.htm> |
|
|
- <https://www.guamodiscuola.it/2014/01/testo-argomentativo-materiali-didattici.html> |
|
|
- <http://www.storiadellaletteratura.it/> **(\!\!\!)** |
|
|
- <https://www.dropbox.com/s/tcy2j8nma5hmr1j/LAVORO%20SUL%20TESTO%20-%20Percorso%20didattico%20su%20Pinocchio.pdf?e=1&dl=0> |
|
|
- <https://www.fabrizioaltieri.it/wordpress/tutti-i-miei-libri-per-ragazzi/battello-a-vapore/serie-azzurra/comprensione-del-testo-scuola-primaria/6-brani-con-verifica-sulla-comprensione-del-testo/> |
|
|
|
|
|
Appoggio di link enigmistica: |
|
|
|
|
|
- <https://cruciverba.io/soluzioni-recenti> |
|
|
- <https://www.nostrofiglio.it/famiglia/indovinelli-difficili-per-adulti> |
|
|
- <https://www.enigmatopia.it/category/giochi-a-enigmi-online/la-strada-per-enigmatopia/> |
|
|
- <https://yesnogame.net/it> |
|
|
- <https://utenti.quipo.it/base5/penslate/latmate.htm> **(\!)** |
|
|
- <https://utenti.quipo.it/base5/penslate/latclass.htm> |
|
|
|
|
|
## <span id="anchor-30"></span>Task linguistici (ispirati da vecchi siti di materiale didattico trovati online): |
|
|
|
|
|
<table> |
|
|
<tbody> |
|
|
<tr class="odd"> |
|
|
<td>Tipologia</td> |
|
|
<td>Attività</td> |
|
|
<td>Obiettivi</td> |
|
|
<td>Proposte operative</td> |
|
|
</tr> |
|
|
<tr class="even"> |
|
|
<td><strong>Cancellazione</strong> </td> |
|
|
<td>Riconoscere le parole incluse arbitrariamente in un testo</td> |
|
|
<td>Sviluppare la riflessione sul lessico, in base al criterio della pertinenza del singolo elemento linguistico, rispetto all’insieme.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P1.html#eutropio"><strong>P1</strong></a></td> |
|
|
</tr> |
|
|
<tr class="odd"> |
|
|
<td><strong>Cloze</strong> </td> |
|
|
<td><p>Inserire in un testo le parole mancanti, fornite in sequenza casuale.</p> |
|
|
<p> </p></td> |
|
|
<td>Promuovere la competenza testuale e la capacità inferenziale, mediante il preventivo riconoscimento della categoria grammaticale da inserire.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P2.html#seneca"><strong>P2</strong></a></td> |
|
|
</tr> |
|
|
<tr class="even"> |
|
|
<td><strong>Decontaminazione</strong> </td> |
|
|
<td>Distinguere gli elementi testuali che appartengono a due differenti testi.</td> |
|
|
<td>Rafforzare la competenza testuale, sulla base del riconoscimento dei fattori di coerenza e coesione.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P3.html#aurelio"><strong>P3</strong></a></td> |
|
|
</tr> |
|
|
<tr class="odd"> |
|
|
<td><strong>Esplicitazione</strong> </td> |
|
|
<td>Collegare ogni pronome, presente nel testo, al proprio referente.</td> |
|
|
<td>Promuovere il riconoscimento dei fattori che determinano la coesione testuale.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P4.html#igino"><strong>P4</strong></a></td> |
|
|
</tr> |
|
|
<tr class="even"> |
|
|
<td>Griglia</td> |
|
|
<td>Individuare l’intersezione delle variabili (riconducibili a un testo dato) rappresentate sugli assi di una matrice.</td> |
|
|
<td><p>Potenziare la comprensione del livello denotativo e connotativo.</p> |
|
|
<p> </p></td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P5.html#Favole"><strong>P5</strong></a></td> |
|
|
</tr> |
|
|
<tr class="odd"> |
|
|
<td>Incastro</td> |
|
|
<td>Ricostruire l’esatta sequenza delle parole di un testo, presentate in ordine casuale.</td> |
|
|
<td>Sviluppare la competenza morfo-sintattica.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P6.html#isidoro"><strong>P6</strong></a></td> |
|
|
</tr> |
|
|
<tr class="even"> |
|
|
<td>Riassunto</td> |
|
|
<td>Ridurre un testo ai nuclei informativi essenziali, da riprodurre secondo una formulazione personale.</td> |
|
|
<td>Incentivare la capacità di riconoscere la gerarchia delle informazioni essenziali, mettendo in atto la globalità dei processi cognitivo-linguistici.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P7.html#P7%20Aviano"><strong>P7</strong></a></td> |
|
|
</tr> |
|
|
<tr class="odd"> |
|
|
<td>Ricostruzione</td> |
|
|
<td>Riprodurre la corretta sequenza dei paragrafi di un testo, proposti in ordine casuale.</td> |
|
|
<td>Potenziare le strategie del processo di comprensione, mediante il riconoscimento dei fattori che determinano la coerenza testuale.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P8.html#manilio"><strong>P8</strong></a></td> |
|
|
</tr> |
|
|
<tr class="even"> |
|
|
<td>Scelta multipla</td> |
|
|
<td>Individuare la risposta corretta, selezionandola tra le varie opzioni date.</td> |
|
|
<td>Guidare il percorso di comprensione</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P9.html#plinio"><strong>P9</strong></a></td> |
|
|
</tr> |
|
|
<tr class="odd"> |
|
|
<td><strong>Suddivisione</strong> </td> |
|
|
<td>Dividere un testo in sequenze e assegnare una titolazione pertinente.</td> |
|
|
<td>Potenziare le abilità di lettura e comprensione.</td> |
|
|
<td><a href="https://digilander.libero.it/uraniaceleste/latino/ZANASI1/P10.html#cesare"><strong>P10</strong></a></td> |
|
|
</tr> |
|
|
</tbody> |
|
|
</table> |
|
|
|
|
|
I giochi linguistici |
|
|
|
|
|
Proponiamo una serie di possibili esercizi, tutti sul medesimo testo di |
|
|
riferimento, che è il seguente: |
|
|
|
|
|
Un topolino correva avanti e indietro sopra il corpo di un leone |
|
|
addormentato. Quello si svegliò e afferratolo stava per mangiarselo. Ma |
|
|
il topolino lo scongiurò di lasciarlo libero, dicendogli che se lo |
|
|
avesse salvato gli avrebbe ricambiato il favore; il leone sorrise e lo |
|
|
lasciò andare. Non molto tempo dopo il leone fu catturato da alcuni |
|
|
cacciatori che lo legarono con una corda ad un albero. Il topolino, che |
|
|
aveva sentito i suoi lamenti, rosicchiò la corda e lo liberò, |
|
|
dicendogli: “Un giorno tu sorridesti di me, pensando che io non fossi in |
|
|
grado di ricambiare il favore. D’ora innanzi, invece, sarai convinto che |
|
|
esiste la gratitudine anche presso i topi”. |
|
|
|
|
|
|
|
|
## <span id="anchor-31"></span>Statistiche *temporanee* **scraping di Usenet:** |
|
|
|
|
|
Mancano ancora dei newsgroup da sistemare, ma sono già stati scaricati |
|
|
tutti. La gerarchia \*italia (discussioni locali) non è al momento |
|
|
presente in statistica. La colonna a destra indica il numero di |
|
|
conversazioni NON quello dei singoli messaggi (maggiore), che sarà |
|
|
presente in una statistica successiva. Alcuni gruppi purtroppo sono |
|
|
andati perduti perché censurati da Google Groups, forse a causa di |
|
|
troppo spam. |
|
|
|
|
|
***Totale singole conversazioni: 13.098.235*** |
|
|
|
|
|
***Totale singoli messaggi: ****da calcolare*** |
|
|
|
|
|
| | | |
|
|
| ------------------------------------------ | ------ | |
|
|
| it.politica | 813646 | |
|
|
| it.sport.calcio.milan | 442317 | |
|
|
| it.economia.borsa | 363459 | |
|
|
| it.discussioni.auto | 209997 | |
|
|
| it.sport.calcio.roma | 181430 | |
|
|
| it.sport.calcio | 166006 | |
|
|
| it.comp.hardware | 163391 | |
|
|
| it.sport.calcio.napoli | 160256 | |
|
|
| it.media.tv | 157839 | |
|
|
| it.media.tv | 157839 | |
|
|
| it.arti.fotografia.digitale | 155799 | |
|
|
| it.comp.macintosh | 155526 | |
|
|
| it.comp.aiuto | 152643 | |
|
|
| it.hobby.motociclismo | 146326 | |
|
|
| it.politica.internazionale | 144392 | |
|
|
| it.hobby.fai-da-te | 138488 | |
|
|
| it.hobby.satellite-tv.digitale | 137842 | |
|
|
| it.comp.os.linux.iniziare | 133170 | |
|
|
| it.tlc.cellulari | 127660 | |
|
|
| it.hobby.viaggi | 123933 | |
|
|
| it.comp.lang.visual-basic | 116373 | |
|
|
| it.arti.cinema | 115803 | |
|
|
| it.arti.fotografia | 114277 | |
|
|
| it.politica.pds | 111191 | |
|
|
| it.arti.musica.strumenti.chitarra | 111186 | |
|
|
| it.comp.console.playstation | 110042 | |
|
|
| it.sport.calcio.inter-f | 109206 | |
|
|
| it.tlc.telefonia.adsl | 104615 | |
|
|
| it.sport.calcio.juventu | 99951 | |
|
|
| it.discussioni.commercialisti | 97636 | |
|
|
| it.hobby.umorismo | 93120 | |
|
|
| it.sport.calcio.inter | 90076 | |
|
|
| it.sesso.discussioni | 89924 | |
|
|
| it.media.video.produzione | 87382 | |
|
|
| it.media.video.produzione | 87382 | |
|
|
| it.hobby.home-cinema | 86245 | |
|
|
| it.politica.polo | 85440 | |
|
|
| it.hobby.cucina | 83914 | |
|
|
| it.discussioni.litigi | 83910 | |
|
|
| it.diritto | 83162 | |
|
|
| it.comp.appl.access | 81615 | |
|
|
| it.lavoro.informatica | 80338 | |
|
|
| it.comp.giochi.action | 79174 | |
|
|
| it.comp.hardware.cd | 78026 | |
|
|
| it.sport.calcio.torino | 75571 | |
|
|
| it.hobby.totoscommesse | 73750 | |
|
|
| it.comp.hardware.palmari | 72702 | |
|
|
| it.hobby.acquari | 70399 | |
|
|
| it.hobby.radioamatori | 69671 | |
|
|
| it.arti.musica.rock | 66746 | |
|
|
| it.discussioni.misteri | 65335 | |
|
|
| it.discussioni.animali.cani | 64745 | |
|
|
| it.discussioni.consumatori.tutela | 63063 | |
|
|
| it.comp.os.win.xp | 61986 | |
|
|
| it.comp.hardware.overclock | 61654 | |
|
|
| it.arti.musica.classica | 60054 | |
|
|
| it.comp.hardware.motherboard | 59410 | |
|
|
| it.cultura.filosofia | 59056 | |
|
|
| it.sport.formula1 | 58454 | |
|
|
| it.sport.calcio.fiorentina | 57847 | |
|
|
| it.cultura.religioni | 56980 | |
|
|
| it.arti.cartoni | 55926 | |
|
|
| it.arti.cartoni | 55926 | |
|
|
| it.cultura.single | 55807 | |
|
|
| it.hobby.motociclismo.scooter | 55368 | |
|
|
| it.arti.musica.metal | 54985 | |
|
|
| it.istruzione.scuola | 54978 | |
|
|
| it.lavoro.professioni.webmaster | 51924 | |
|
|
| it.hobby.lotto | 51225 | |
|
|
| it.comp.giochi.annunci | 50366 | |
|
|
| it.comp.os.win.win2000 | 49655 | |
|
|
| it.sport.calcio.genoa | 49590 | |
|
|
| it.sport.ciclismo | 48954 | |
|
|
| it.sport.basket | 48588 | |
|
|
| it.comp.java | 48529 | |
|
|
| it.hobby.satellite-tv | 48464 | |
|
|
| it.scienza.matematica | 48441 | |
|
|
| it.comp.grafica | 48046 | |
|
|
| it.comp.grafica | 48046 | |
|
|
| it.aiuto | 47043 | |
|
|
| it.fan.startrek | 46051 | |
|
|
| it.comp.reti.locali | 45922 | |
|
|
| it.cultura.libri | 45065 | |
|
|
| it.lavoro.offerte | 44256 | |
|
|
| it.hobby.scacchi | 42853 | |
|
|
| it.arti.fumetti | 42337 | |
|
|
| it.arti.poesia | 42264 | |
|
|
| it.comp.giochi.sportivi.hattrick | 40515 | |
|
|
| it.hobby.hi-fi | 39229 | |
|
|
| it.comp.hardware.cpu | 38584 | |
|
|
| it.arti.musica | 38508 | |
|
|
| it.discussioni.geometri | 38245 | |
|
|
| it.discussioni.folli | 37954 | |
|
|
| it.comp.www.php | 37754 | |
|
|
| it.comp.os.linux.sys | 36822 | |
|
|
| it.fan.culo | 36741 | |
|
|
| it.arti.musica.rock.progressive | 35932 | |
|
|
| it.fan.studio-vit | 35841 | |
|
|
| it.hobby.elettronica.riparazioni | 34833 | |
|
|
| it.sesso.racconti | 34601 | |
|
|
| it.comp.giochi.simulatori.volo | 34370 | |
|
|
| it.hobby.modellismo | 34289 | |
|
|
| it.comp.lang.javascript | 34100 | |
|
|
| it.comp.hardware.modem | 34100 | |
|
|
| it.politica.ulivo | 33218 | |
|
|
| it.discussioni.varie | 33189 | |
|
|
| it.discussioni.leggende.metropolitane | 32435 | |
|
|
| it.lavoro.consulenti | 32354 | |
|
|
| it.lavoro.consulenti | 32354 | |
|
|
| it.sport.motociclismo | 32179 | |
|
|
| it.discussioni.ufo | 32115 | |
|
|
| it.hobby.scuba | 32080 | |
|
|
| it.sport.calcio.sampdoria | 32062 | |
|
|
| it.sport.calcio.estero | 31568 | |
|
|
| it.diritto.condominio | 31507 | |
|
|
| it.hobby.hi-fi.car | 31383 | |
|
|
| it.lavoro.mlm | 31104 | |
|
|
| it.comp.retrocomputing | 30864 | |
|
|
| it.comp.os.win.win9x | 30332 | |
|
|
| it.sport.windsurf | 30327 | |
|
|
| it.comp.giochi.rpg | 30293 | |
|
|
| it.salute | 29591 | |
|
|
| it.hobby.pescare | 29380 | |
|
|
| it.fan.musica.queen | 29297 | |
|
|
| it.hobby.cicloturismo | 29165 | |
|
|
| it.comp.musica | 27983 | |
|
|
| it.cultura.linguistica.italiano | 27052 | |
|
|
| it.hobby.armi | 26886 | |
|
|
| it.sport.montagna | 26538 | |
|
|
| it.cultura.storia | 26527 | |
|
|
| it.scienza.astronomia | 26502 | |
|
|
| it.discussioni.ingegneria | 26406 | |
|
|
| it.comp.os.linux.software | 26333 | |
|
|
| it.cultura.cattolica | 26304 | |
|
|
| it.comp.lang.delphi | 26233 | |
|
|
| it.comp.software.emulatori | 25796 | |
|
|
| it.arti.musica.strumenti.tastiere | 25368 | |
|
|
| it.hobby.giardinaggio | 25263 | |
|
|
| it.hobby.nautica | 24857 | |
|
|
| it.fan.musica.u2 | 24640 | |
|
|
| it.comp.grafica.photoshop | 24140 | |
|
|
| it.arti.musica.jazz | 24069 | |
|
|
| it.tlc.telefonia | 23882 | |
|
|
| it.comp.hardware.storage | 23755 | |
|
|
| it.scienza.medicina | 23685 | |
|
|
| it.annunci.usato | 23266 | |
|
|
| it.comp.lang.c++ | 23133 | |
|
|
| it.economia.investire | 22883 | |
|
|
| it.sport.arti-marziali | 22422 | |
|
|
| it.economia | 22318 | |
|
|
| it.fan.tv | 22296 | |
|
|
| it.comp.giochi.sportivi | 21990 | |
|
|
| it.arti.fotografia.segnalazioni | 21763 | |
|
|
| it.arti.ballo.lat-americano | 21752 | |
|
|
| it.comp.os.win.software | 21732 | |
|
|
| it.hobby.elettronica.digitale | 21477 | |
|
|
| it.tlc.gestori.fastweb | 20801 | |
|
|
| it.tlc.cellulari.motorola | 20757 | |
|
|
| it.arti.architettura | 20718 | |
|
|
| it.discussioni.auto.ford | 20655 | |
|
|
| it.sport.americani | 20447 | |
|
|
| it.comp.software.cad | 20264 | |
|
|
| it.cultura.religioni.cristiani | 20107 | |
|
|
| it.sport.tennis | 19571 | |
|
|
| it.sport.tenni | 19565 | |
|
|
| it.sociale.obiezione | 19478 | |
|
|
| it.sociale.obiezione | 19478 | |
|
|
| it.comp.musica.mp3 | 19370 | |
|
|
| it.comp.giochi.simulatori | 19330 | |
|
|
| it.cultura | 19310 | |
|
|
| it.arti.fantasy | 18856 | |
|
|
| it.discussioni.motori | 18653 | |
|
|
| it.economia.borsa.estero | 18547 | |
|
|
| it.scienza.fisica | 18486 | |
|
|
| it.sport.formula1.moderato | 18463 | |
|
|
| it.comp.hardware.schede-audio | 18444 | |
|
|
| it.cultura.linguistica.inglese | 18266 | |
|
|
| it.comp.programmare.win32 | 18116 | |
|
|
| it.arti.musica.strumenti.basso | 17892 | |
|
|
| it.diritto.assicurazioni | 17855 | |
|
|
| it.tlc.gestori.vodafone | 17726 | |
|
|
| it.cultura.fantascienza | 17673 | |
|
|
| it.arti.hiphop | 17465 | |
|
|
| it.fan.radio.deejay | 17463 | |
|
|
| it.comp.sicurezza.windows | 17393 | |
|
|
| it.fan.starwars | 17292 | |
|
|
| it.fan.musica.lucio-battisti | 17218 | |
|
|
| it.fan.musica.lucio-battisti | 17218 | |
|
|
| it.cultura.horror | 17202 | |
|
|
| it.comp.www | 17033 | |
|
|
| it.comp.reti.wireless | 17004 | |
|
|
| it.discussioni.ristoranti | 16865 | |
|
|
| it.comp.software.newsreader | 16808 | |
|
|
| it.hobby.enigmi | 16422 | |
|
|
| it.tlc.gestori.wind | 16332 | |
|
|
| it.sport.nuoto | 16326 | |
|
|
| it.comp.sicurezza.varie | 16324 | |
|
|
| it.sport.sci | 16167 | |
|
|
| it.arti.musica.strumenti | 16076 | |
|
|
| it.arti.cartoni.mercatino | 16052 | |
|
|
| it.hobby.fantasport | 15991 | |
|
|
| it.news.net-abuse | 15872 | |
|
|
| it.news.net-abuse | 15872 | |
|
|
| it.fan.musica.battiato | 15711 | |
|
|
| it.discussioni.sessualita | 15706 | |
|
|
| it.discussioni.sentimenti | 15683 | |
|
|
| it.hobby.giochi.gdr.dnd | 15551 | |
|
|
| it.fan.tv.friends | 15421 | |
|
|
| it.cultura.storia.militare | 15157 | |
|
|
| it.comp.reti.cisco | 15121 | |
|
|
| it.sport | 14835 | |
|
|
| it.tlc.telefonia.voip | 14752 | |
|
|
| it.fan.tv.buffy | 14718 | |
|
|
| it.sociale.scout | 14284 | |
|
|
| it.comp.lang.c | 14053 | |
|
|
| it.hobby.vino | 13967 | |
|
|
| it.cultura.antagonista | 13739 | |
|
|
| it.discussioni.ingegneria.civile | 13469 | |
|
|
| it.fan.musica.baglioni | 13404 | |
|
|
| it.cultura.militare | 13391 | |
|
|
| it.hobby.satellite-tv.digitale.mod | 13190 | |
|
|
| it.diritto.internet | 13136 | |
|
|
| it.cultura.newage | 13085 | |
|
|
| it.hobby.radio-cb | 12981 | |
|
|
| it.istruzione.universita.ingegneria | 12943 | |
|
|
| it.scienza.ambiente | 12917 | |
|
|
| it.discussioni.psicologia | 12798 | |
|
|
| it.news.gruppi | 12772 | |
|
|
| it.tlc.gestori.tim | 12735 | |
|
|
| it.comp.software.database | 12364 | |
|
|
| it.comp.hardware.dvd | 12326 | |
|
|
| it.economia.banche | 12283 | |
|
|
| it.news.aiuto | 12280 | |
|
|
| it.comp.reti.ip-admin | 12011 | |
|
|
| it.comp.software.mailreader | 12001 | |
|
|
| it.politica.destra | 11946 | |
|
|
| it.comp.hardware.scsi | 11921 | |
|
|
| it.scienza.chimica | 11799 | |
|
|
| it.fan.scrittori.tolkien | 11513 | |
|
|
| it.discussioni.droghe | 11442 | |
|
|
| it.discussioni.giustizia | 11430 | |
|
|
| it.discussioni.giustizia | 11430 | |
|
|
| it.fan.stephen-king | 11412 | |
|
|
| it.comp.os.win.nt | 11132 | |
|
|
| it.comp.programmare | 10535 | |
|
|
| it.sport.atletica | 10473 | |
|
|
| it.fan.musica.ligabue | 10305 | |
|
|
| it.hobby.home-cinema.titoli-dvd | 10099 | |
|
|
| it.discussioni.auto.mod | 10083 | |
|
|
| it.istruzione.universita | 9870 | |
|
|
| it.istruzione.universita | 9870 | |
|
|
| it.discussioni.energie-alternative | 9817 | |
|
|
| it.hobby.audiovisivi | 9781 | |
|
|
| it.cultura.ebraica | 9775 | |
|
|
| it.scienza.biologia | 9612 | |
|
|
| it.salute.alimentazione | 9202 | |
|
|
| it.salute.alimentazione | 9202 | |
|
|
| it.fan.musica | 9082 | |
|
|
| it.tlc.gestori.telecom | 9012 | |
|
|
| it.cultura.letteratura.italiana | 9006 | |
|
|
| it.comp.appl.macromedia | 9002 | |
|
|
| it.comp.os.linux.development | 8943 | |
|
|
| it.lavoro.prevenzione | 8879 | |
|
|
| it.scienza.astronomia.amatoriale | 8861 | |
|
|
| it.arti.varie | 8842 | |
|
|
| it.comp.software.shareware | 8501 | |
|
|
| it.comp.os.amiga | 8491 | |
|
|
| it.comp.giochi.avventure.testuali | 8469 | |
|
|
| it.lavoro.richieste | 8465 | |
|
|
| it.hobby.piante.cactus | 8273 | |
|
|
| it.politica.cattolici | 8271 | |
|
|
| it.discussioni.animali | 8223 | |
|
|
| it.sociale.handicap | 8120 | |
|
|
| it.cultura.religioni.bahai | 8108 | |
|
|
| it.discussioni.sogni | 8066 | |
|
|
| it.comp.software.divx | 8014 | |
|
|
| it.hobby.radioascolto | 7920 | |
|
|
| it.comp.software.tex | 7810 | |
|
|
| it.comp.giochi.sviluppo | 7722 | |
|
|
| it.fan.musica.rem | 7672 | |
|
|
| it.associazioni.cri | 7652 | |
|
|
| it.hobby.armi.moderato | 7427 | |
|
|
| it.comp.os.dibattiti | 7380 | |
|
|
| it.comp.os.win.windows7 | 7295 | |
|
|
| it.politica.sinistra | 7282 | |
|
|
| it.comp.giochi.rpg.ultimaonline | 7227 | |
|
|
| it.discussioni.agricoltura | 7205 | |
|
|
| it.comp.os.linux.debian | 7162 | |
|
|
| it.hobby.vari | 7139 | |
|
|
| it.comp.lang.perl | 7132 | |
|
|
| it.comp.appl.notes-domino | 7058 | |
|
|
| it.comp.appl.notes-domino | 7058 | |
|
|
| it.faq | 7030 | |
|
|
| it.hobby.aquiloni | 7006 | |
|
|
| it.fan.tv.dawsons-creek | 6972 | |
|
|
| it.sport.calcio.palermo | 6903 | |
|
|
| it.comp.hardware.palmari.gps | 6823 | |
|
|
| it.fan.musica.springsteen | 6627 | |
|
|
| it.tlc.provider | 6558 | |
|
|
| it.news.annunci | 6470 | |
|
|
| it.cultura.cybersocieta | 6428 | |
|
|
| it.discussioni.giallo | 6332 | |
|
|
| it.fan.musica.carmen-consoli | 6238 | |
|
|
| it.comp.software.emulatori.console-recenti | 6224 | |
|
|
| it.discussioni.iso9000 | 6217 | |
|
|
| it.sport.rally | 6146 | |
|
|
| it.fan.tv.er | 6107 | |
|
|
| it.comp.os.win.windows10 | 6106 | |
|
|
| it.comp.os.win.windows10 | 6106 | |
|
|
| it.industria.elettrotecnica.normative | 5998 | |
|
|
| it.fan.musica.elio | 5922 | |
|
|
| it.hobby.viaggi.inter-rail | 5905 | |
|
|
| it.hobby.viaggi.inter-rail | 5905 | |
|
|
| it.cultura.filosofia.moderato | 5871 | |
|
|
| it.fan.musica.de-andre | 5714 | |
|
|
| it.media.tv.fantascienza | 5622 | |
|
|
| it.news.moderazione | 5462 | |
|
|
| it.cultura.linguistica | 5389 | |
|
|
| it.comp.software.browser | 5368 | |
|
|
| it.sociale.adozione | 5354 | |
|
|
| it.scienza.astronomia.seti | 5266 | |
|
|
| it.cultura.linguistica.giapponese | 5208 | |
|
|
| it.comp.lang.vo-clipper | 5179 | |
|
|
| it.sociale.primosoccorso | 5155 | |
|
|
| it.arti.musica.classica.mod | 5054 | |
|
|
| it.arti.fumetti.manga | 5054 | |
|
|
| it.comp.os.os2 | 5013 | |
|
|
| it.cultura.cybersocieta.lamer | 4810 | |
|
|
| it.cultura.cybersocieta.lamer | 4810 | |
|
|
| it.arti.animazione | 4588 | |
|
|
| it.comp.lang.pascal | 4449 | |
|
|
| it.istruzione.scuola.informatica | 4366 | |
|
|
| it.fan.marco-ditri | 4163 | |
|
|
| it.comp.os.dos | 4156 | |
|
|
| it.fan.tv.mai-dire-gol | 4137 | |
|
|
| it.comp.os.win.vista | 4130 | |
|
|
| it.arti.musica.polifonia | 4092 | |
|
|
| it.hobby.creativi | 3972 | |
|
|
| it.salute.aids | 3865 | |
|
|
| it.cultura.classica | 3661 | |
|
|
| it.lavoro.sindacato | 3562 | |
|
|
| it.sport.rugby | 3561 | |
|
|
| it.scienza.geologia | 3422 | |
|
|
| it.hobby.volo.ultraleggero | 3338 | |
|
|
| it.hobby.radioamatori.moderato | 3326 | |
|
|
| it.news.gestione | 3205 | |
|
|
| it.comp.sicurezza.pgp | 3155 | |
|
|
| it.cultura.religioni.buddhismo | 3069 | |
|
|
| it.comp.software.irc | 2875 | |
|
|
| it.fan.radio | 2867 | |
|
|
| it.comp.appl.eudora | 2865 | |
|
|
| it.news.votazioni | 2859 | |
|
|
| it.comp.os.linux.mandrake | 2759 | |
|
|
| it.comp.os.linux.ubuntu | 2660 | |
|
|
| it.tlc.gestori | 2606 | |
|
|
| it.fan.nutella | 2581 | |
|
|
| it.sociale.anorexbulimia | 2546 | |
|
|
| it.scienza.informatica | 2484 | |
|
|
| it.fan.tv.babylon5 | 2484 | |
|
|
| it.discussioni.energia | 2403 | |
|
|
| it.fan.japan.sailor-moon | 2315 | |
|
|
| it.salute.cefalee | 2281 | |
|
|
| it.lavoro.professioni.pubblicita | 2203 | |
|
|
| it.comp.os.linux.annunci | 2072 | |
|
|
| it.fan.japan.r-takahashi | 2000 | |
|
|
| it.comp.os.unix | 1978 | |
|
|
| it.arti.musica.strumenti.voce | 1974 | |
|
|
| it.comp.sicurezza.crittografia | 1950 | |
|
|
| it.fan.matrix | 1947 | |
|
|
| it.comp.software.libero | 1935 | |
|
|
| it.politica.internazionale.israele | 1922 | |
|
|
| it.discussioni.astrologia | 1899 | |
|
|
| it.hobby.motociclismo.viaggi | 1822 | |
|
|
| it.sport.golf | 1700 | |
|
|
| it.sport.golf | 1700 | |
|
|
| it.comp.sicurezza.unix | 1668 | |
|
|
| it.cultura.storia.moderato | 1560 | |
|
|
| it.cultura.linguistica.francese | 1475 | |
|
|
| it.comp.os.linux.redhat | 1438 | |
|
|
| it.fan.asimov | 1343 | |
|
|
| it.arti.musica.strumenti.chitarra.mod | 1180 | |
|
|
| it.hobby.robotica | 923 | |
|
|
| it.arti.cinema.recensioni | 890 | |
|
|
| it.fan.musica.pearl-jam | 870 | |
|
|
| it.comp.accessibilita | 804 | |
|
|
| it.arti.musica.studio | 776 | |
|
|
| it.sociale.globalizzazione | 707 | |
|
|
| it.sport.calcio.moderato | 641 | |
|
|
| it.hobby.volo | 638 | |
|
|
| it.fan.tv.scrubs | 492 | |
|
|
| it.comp.dotnet | 424 | |
|
|
| it.comp.dotnet | 424 | |
|
|
| it.comp.virtualizzazione | 390 | |
|
|
| it.comp.software.editor | 267 | |
|
|
| it.comp.lang | 252 | |
|
|
| it.scienza.divulgazione | 240 | |
|
|
| it.lavoro.professioni | 226 | |
|
|
| it.comp.os.openbsd | 206 | |
|
|
| it.politica.m5s | 152 | |
|
|
| it.scienza.medicina.tumori | 123 | |
|
|
| it.tlc.provider.disservizi | 0 | |
|
|
| it.sport.volley | 0 | |
|
|
|
|
|
**** |
