Pembacaan marker pada aplikasi berbasis Augmented reality (AR) menggunakan pustaka NyARToolKit 4.0.3 masih kurang optimal. Proses deteksi marker pada pustaka tersebut dilakukan dengan menemukan empat garis lurus dari marker yang saling berhubungan, sehingga aplikasi tidak dapat mendeteksi marker apabila marker tidak ideal. Untuk mengatasi kondisi tersebut, dibutuhkan metode untuk mengoptimalkan kinerja aplikasi AR dalam membaca marker yang tidak ideal seperti metode RANSAC. Random Sample Consensus (RANSAC) adalah metode iterasi untuk memperkirakan parameter dari model matematika dari sekumpulan data yang terdiri atas inliers dan outliers. Ketidakidealan marker yang digunakan hanya melingkupi marker dengan tinta luntur, marker lecek, dan marker robek. Langkah pertama adalah menemukan pixel tepian, kemudian menghubungkan tepian tersebut menjadi segmen-segmen kecil menggunakan metode RANSAC. Setelah itu, menggabungkan segmen menjadi garis dan menemukan semua titik potong dari semua garis yang saling tegak lurus. Langkah terakhir, menemukan dua pasang titik potong dengan jarak terjauh, maka akan didapatkan empat garis terluar marker yang merupakan langkah penting dalam mendeteksi marker. Pada penelitian ini terdapat tiga variabel yang diujikan, yaitu kondisi maker, posisi penangkap citra, dan kemiringan marker. Keseluruhan hasil pengujian performa ini menunjukkan bahwa penambahan metode RANSAC pada aplikasi berbasis AR dapat memperbaiki dan meningkatkan performa aplikasi dalam mendeteksi marker yang tidak ideal secara memuaskan. Performa aplikasi rata-rata meningkat sebesar 50% dalam mendeteksi sepuluh kondisi marker, 40% dalam mendeteksi marker dengan tiga posisi penangkap citra, dan 38% dalam mendeteksi marker dengan lima kemiringan marker.