Arsenal didirikan di daerah
Woolwich, bagian tenggara kota London pada
1886
dengan nama Dial Square, lalu dengan cepat berganti nama menjadi Royal
Arsenal. Tahun 1891 nama mereka diganti menjadi Woolwich Arsenal. Pada
tahun
1913, klub ini pindah ke wilayah utara, tepatnya di daerah
Highbury dan membangun
Stadion Highbury,
yang menjadi markas baru mereka. Saat pindah lokasi itulah, nama depan
klub mereka, yaitu Woolwich dihapus sehingga hanya nama Arsenal yang
tersisa. Selain itu karena lokasi stadion Arsenal dekat dengan markas
Tottenham Hotspur, maka tak heran jika pertandingan Arsenal vs Tottenham Hotspur disebut "
North London derby" dan merupakan salah satu
derby terpanas di London.
Kejayaan Arsenal di persepak bolaan Inggris pertama kali diawali oleh pelatih
Herbert Chapman
yang melatih pada rentang tahun 1925-35 dan berhasil menjuarai beberapa
kompetisi domestik Inggris (Piala FA, titel Liga Utama, dan Charity
Shield) sekaligus mendominasinya dan menjadikan Arsenal sebagai kekuatan
paling dominan di Inggris saat itu. Pada rentang 1940an-1960an, Arsenal
hanya dapat menambah sedikit koleksi gelar domestiknya. Pada awal
1970an, Arsenal berhasil prestasi terbaik Arsenal di Eropa pertama kali
yang terjadi pada musim 1969-70, di ajang
Fairs Cup (pendahulu dari
Piala UEFA).
Arsenal menjadi juara untuk pertama kalinya dan sekaligus terakhir di
ajang Fairs Cup (Fairs Cup diganti Piala UEFA sejak musim 1971-72)
setelah berhasil mengalahkan klub
R.S.C. Anderlecht dengan agregat 4-3 (dengan sistem
home and away) Saat itu, klub ini dilatih oleh
Bertie Mee.
Sepanjang tahun 1980an, Arsenal berhasil menambah koleksi Arsenal
dengan beberapa gelar domestik, yaitu Piala Liga pada tahun 1987 dan
menjuarai Liga Inggris pada tahun 1989 setelah menumbangkan kompetitor
(dan peringkat satu saat itu) Liverpool di Anfield pada pertandingan
terakhir liga yang dramatis. Namun, Arsenal gagal mengoleksi gelar dari
kompetisi Eropa, kalah adu penalti dari
Valencia 5-4 pada kompetisi
Piala Winners setelah skor tetap 0-0.
Pada tahun 1991, Arsenal menjadi juara bersama dengan Tottenham di
Community Shield setelah hasil kedudukan imbang 0-0 (saat itu, jika
kedudukan seri maka kedua tim dianggap juara) . Puasa Arsenal akan gelar
dari kompetisi Eropa akhirnya hilang setelah pada musim 1993-94,
ditangan pelatih
George Graham, Arsenal kembali juara di kancah Eropa, tepatnya di ajang Piala Winners setelah mengalahkan klub
Parma FC
dengan skor 1-0. Pada musim berikutnya, Arsenal kembali berhasil ke
final di ajang yang sama, tapi kali ini mereka dikalahkan oleh
Real Zaragoza dengan skor 2-1.
Kedatangan pelatih
Arsène Wenger ke Arsenal pada tahun 1996 berhasil membuat Arsenal kembali berjaya dan berhasil merusak dominasi
Manchester United
di Liga Utama Inggris pada saat itu, dimana Arsenal berhasil meraih
gelar Liga Utama Inggris dan Piala FA pada musim 1997-98. Di kancah
Eropa, Arsenal dibawanya berhasil menjadi runner-up di ajang Piala UEFA
pada tahun 2000 setelah kalah melawan
Galatasaray lewat adu penalti 4-1. Arsenal meraih gelar Piala FA dan Liga Utama Inggris pada musim 2001-02. Pada musim
2003–04 hingga awal musim
2004–05, Arsenal berhasil mencetak rekor 49 pertandingan tak terkalahkan dan mematahkan rekor milik
Preston North End
(18 kali) yang merupakan rekor tak terkalahkan terpanjang di dalam
sejarah sepak bola Inggris. Musim 2004-05, Arsenal kembali menambah
koleksi gelarnya dengan
Piala FA, final FA pertama yang harus diselesaikan dengan adu penalti.
Setelah menjuarai Piala FA, selama sembilan tahun Arsenal tidak
meraih gelar, meskipun sempat masuk final dalam berbagai ajang. Pada
musim 2005-06, Arsenal menjadi finalis
Liga Champions setelah dikalahkan
FC Barcelona 2-1 di
Stade de France,
Paris. Arsenal juga menjadi finalis pada tahun 2007 dan 2011 pada
Piala Liga Inggris, masing-masing kalah 2–1 dari
Chelsea dan kalah dengan skor yang sama dari
Birmingham City. Pada tahun 2014, Arsenal meraih gelar pertamanya setelah sembilan tahun lewat ajang Piala FA dengan mengalahkan
Hull City 3-2 lewat perpanjangan waktu.