People Innovation Excellence

Word Vector Representation: Word2Vec & Glove

Konsep Dasar Machine Learning

Apa itu Word Vector Representation? Jika kita mengikuti berbagai perkembangan ilmu Computer Science akhir-akhir ini, kita pasti sering mendengar istilah tersebut.

Dalam environment keilmuan Computer Science, sudah pasti kita tidak bisa lepas dari Machine Learning. Machine learning merupakan salah satu varian dari sistem kecerdasan buatan yang memungkinkan komputer dapat belajar tanpa diprogram secara eksplisit. Secara umum, pekerjaan machine learning yang seringkali digunakan adalah untuk mengklasifikasikan satu permasalahan menjadi beberapa kelompok. Analogi sederhananya sebagai berikut, sejak kecil seorang anak diajarkan oleh orang tuanya mengenai apa saja tindakan yang benar dan apa saja yang tindakan yang salah. Ketika anak tersebut beranjak dewasa, secara otomatis dia akan mengerti mana yang benar dan salah. Sama halnya, ketika komputer diberikan pembelajaran maka komputer akan semakin cerdas dan bisa membedakan antara kelas yang satu dengan yang lainnya.

Contoh task paling sederhananya adalah sentiment analysis. Sentiment analysis adalah satu usaha di bidang machine learning untuk menilai bagaimana penilaian publik atau kelompok orang tertentu terhadap objek yang diobservasi. Biasanya, klasifikasinya dibagi menjadi 2, yaitu positif dan negatif. Supaya mudah dipahami, saya contohkan produk iPhone7 yang baru dipasarkan di dunia. Kita bisa melakukan sentiment analysis bagaimana masyarakat menerima produk tersebut dengan mempelajari segala komentar yang ada di social media dengan hashtag iPhone7 (#iphone7). Harapannya dari sentiment analysis adalah user bisa mengetahui bagaimana penilaian publik terhadap suatu objek yang kita observasi.

Dalam melakukan pembelajaran terhadap suatu objek, kita butuh mengambil ciri-ciri dari objek tersebut. Pada domain machine learning, ciri-ciri lebih akrab disebut sebagai feature. Jika kita membaca literatur dari paper-paper ilmiah, banyak feature yang sudah didefinisikan oleh para peneliti dalam usaha meningkatkan keakuratan machine learning. Dalam beberapa tahun belakangan ini, ada magnet tersendiri pada berbagai penelitian di area machine learning ke arah deep learning. Artikel ini tidak akan membahas apa dan bagaimana deep learning dilakukan, namun akan berfokus pada word vector representation yang merupakan hasil dari deep learning.

Word Vector Representation

Sebagaimana sudah disebutkan sebelumnya, komputer bisa mempelajari karakter dari data melalui feature extraction. Bebagai jenis feature diambil dari data, kemudian dilakukan pembelajaran secara khusus pada feature tersebut. Word vector representation merupakan hasil pembelajaran dari algoritma deep learning. Setiap kata memiliki vektor yang mewakili makna dari kata tersebut. Bentuk vektornya bervariasi dalam hal dimensinya. Word vector representation akrab juga disebut dengan terminologi: “word embeddings”

Word2Vec merupakan nama word vector representation yang dibuat oleh Google (https://code.google.com/archive/p/word2vec/). Sebagai gambaran bahwa vektor dari Word2Vec ini bisa mewakili makna dari sebuah kata, kita bisa mengukur beberapa vektor sebagai perbandingan. Apabila kita mengukur jarak antara vektor kata “France” dengan “Paris” dan vektor kata “Italy” dengan “Rome”, maka akan ditemukan bahwa jaraknya akan muncul pada angka yang berdekatan. Hal ini dikarenakan secara mendasar kedua kata tersebut sama-sama merupakan nama negara dan ibukotanya. Karena maknanya berdekatan, maka nilai vektornya pun akan berdekatan.

derwin - 1

Beberapa pasangan kata pada word embeddings yang didefinisikan oleh Mikolov (2013) pada papernya yang bisa dilihat pada link: https://www.aclweb.org/anthology/N/N13/N13-1090.pdf

Senada dengan yang dikerjakan oleh Mikolov dari Google, Stanford University juga melakukan training pada korpus yang besar untuk menghasilkan word embeddings. Word embeddings yang dihasilkan oleh Stanford ini dinamakan dengan Glove (http://nlp.stanford.edu/projects/glove/). Jika pada Word2Vec dimensi vektornya adalah 300, pada Glove memiliki beberapa variasi dimensi vektornya yaitu 50, 100, 200 hingga 300. Untuk lebih memperjelas bentuk vektor dalam word vector representation, berikut ini contoh vektor yang terdapat pada Glove dengan dimensi 50:

derwin - 2

Tergambarkan pada contoh di atas, setiap kata dicirikan dengan 50 angka yang merupakan hasil pelatihan dengan menggunakan algoritma deep learning. Karena keunikannya dalam mendefinisikan arti dari kata, beberapa literatur menyebutkan bahwa word embeddings ini merupakan universal feature extractor.

Untuk memperoleh pemahaman lebih lanjut mengenal Word Vector Representation/Word Embeddings, silakan bisa membaca beberapa artikel berikut ini:

  1. https://blog.acolyer.org/2016/04/21/the-amazing-power-of-word-vectors/
  2. http://colah.github.io/posts/2014-07-NLP-RNNs-Representations/
  3. https://cran.r-project.org/web/packages/text2vec/vignettes/glove.html

Published at :
Written By
Derwin Suhartono, S.Kom., M.T.I
Head of Program of Computer Science | School of Computer Science

Periksa Browser Anda

Check Your Browser

Situs ini tidak lagi mendukung penggunaan browser dengan teknologi tertinggal.

Apabila Anda melihat pesan ini, berarti Anda masih menggunakan browser Internet Explorer seri 8 / 7 / 6 / ...

Sebagai informasi, browser yang anda gunakan ini tidaklah aman dan tidak dapat menampilkan teknologi CSS terakhir yang dapat membuat sebuah situs tampil lebih baik. Bahkan Microsoft sebagai pembuatnya, telah merekomendasikan agar menggunakan browser yang lebih modern.

Untuk tampilan yang lebih baik, gunakan salah satu browser berikut. Download dan Install, seluruhnya gratis untuk digunakan.

We're Moving Forward.

This Site Is No Longer Supporting Out-of Date Browser.

If you are viewing this message, it means that you are currently using Internet Explorer 8 / 7 / 6 / below to access this site. FYI, it is unsafe and unable to render the latest CSS improvements. Even Microsoft, its creator, wants you to install more modern browser.

Best viewed with one of these browser instead. It is totally free.

  1. Google Chrome
  2. Mozilla Firefox
  3. Opera
  4. Internet Explorer 9
Close