Je rebondis là dessus pour faire un peu de vulga en machine learning, histoire de piger un peu ce qu'il se passe. 😁
Alors donc, quel est le score de similarité utilisé par le jeu #cemantix ? Que représente-t-il ?
Alors donc, quel est le score de similarité utilisé par le jeu #cemantix ? Que représente-t-il ?
https://twitter.com/UnMondeRiant/status/1508728789735460868
Le score en question est construit à partir de l'algorithme word2vec.
Pour bien comprendre ce qu'il représente, il nous faut répondre à deux questions :
- que fait l'algorithme word2vec ?
- sur quelles données a-t-il été entraîné ?
Pour bien comprendre ce qu'il représente, il nous faut répondre à deux questions :
- que fait l'algorithme word2vec ?
- sur quelles données a-t-il été entraîné ?
Il existe plusieurs variantes de word2vec, je vais me focaliser sur celle utilisée par #cemantix.
La source des donnée est citée en pas de la page du jeu, merci à @enigmathix pour cette transparence ! 🙂
La source des donnée est citée en pas de la page du jeu, merci à @enigmathix pour cette transparence ! 🙂
Donc, dans la variante qui nous intéresse, l'algorithme est entraîné à remplir des phrases à trou.
On prend une phrase des données d'entraînement, on retire un mot, et l'algorithme doit retrouver quel était ce mot à partir du reste de la phrase.
On prend une phrase des données d'entraînement, on retire un mot, et l'algorithme doit retrouver quel était ce mot à partir du reste de la phrase.
Partant de ça, on peut mieux cerner ce que représente cette similarité : deux mots seront considérés comme similaires si, dans le corpus d'entraînement, ils apparaissent souvent dans des phrases similaires, et à la même place dans la phrase.
Concernant le corpus d'entraînement, je pense qu'il s'agit du corpus frWac, un corpus de 1.6 milliards de mots qui a été construit à partir de contenu extrait automatiquement d'internet, en se limitant à des noms de domaines en .fr.
On peut donc s'attendre à un corpus composé notamment de textes en provenant des médias généralistes et de grandes communautés francophones.
En bref, une heuristique que je peux vous proposer, c'est que #cemantix va considérer deux mots comme proches si ils sont souvent utilisés de manière similaire dans les médias généralistes français.
Bon jeu ! 😁
Bon jeu ! 😁
• • •
Missing some Tweet in this thread? You can try to
force a refresh
