La ciudad de Melilla tiene su origen en la colonización fenicia del Mediterráneo occidental. Allí fundaron una importante factoría con el nombre de Rusadir, Russadir o Rusaddir, como atestigua la necrópolis encontrada en el cerro llamado de San Lorenzo, en las inmediaciones de la ciudad. Desde el siglo VI adC estuvo en manos púnicas, pasando posteriormente a formar parte de los dominios romanos. El emperador Claudio le concede el estatuto de colonia, y aparece en el itinerario de Antonino Pío (una recopilación de vías romanas realizada para cobrar el impuesto de la "annona" en el siglo III) como cabecera de la región oriental de la Mauritania Tingitana. Es, junto con Volubilis y, Tingis, la capital, una de las ciudades más importantes de la provincia.

En el año 429, tras su paso por la península Ibérica, los vándalos pasan al norte de África, arrasando las provincias mauritanas, en su marcha hacia Cartago. Parece ser que Melilla fue destruida, siendo reconstruida más tarde, probablemente por los bizantinos, que tras destruir el reino vándalo de Cartago se habían extendido de nuevo hacia el Mediterráneo occidental, llegando a poner bajo su dominio el sur de la península Ibérica (siglo VI).

Con la expansión musulmana, la zona donde se encuentra Melilla es conquistada a finales del siglo VII. Los musulmanes le dan el nombre de Melilia, que sería el que tendría desde entonces. El nombre tiene una etimología incierta (algunas teorías afirman que dicho nombre procede del que le dieron los colonizadores griegos, presentes en la zona antes que los fenicios).

Existen pocos datos de la época, aunque parece que debió de convertirse en un próspero puesto comercial. En 859, con motivo de las penetraciones vikingas en el Mediterráneo, Melilla fue saqueada e incendiada. En 927, Abd al-Rahman III la incorporó al emirato cordobés, el cual se convertiría dos años después en el califato de Córdoba. La vinculación con al-Andalus duró poco y Melilla se convirtió en objeto de discordia entre los sultanes de Fez y Tremecén, hasta el punto de quedar destruida y prácticamente deshabitada.

El siglo XV presencia el inicio de la expansión de Portugal por el reino de Fez. A tal expansión se unen los Reyes Católicos una vez finalizada la conquista del reino de Granada en 1492. Los límites de las respectivas áreas de influencia sobre los territorios norteafricanos se fijaron en los tratados de Alcaçovas (1479) y Tordesillas (1494). En 1497, se produce la conquista de la ciudad por tropas castellanas.

Previamente, el comendador Martín Galindo, había reconocido la ciudad de Melilla y sus alrededores. Ante el gran número de habitantes que vivían en la zona, informó a los reyes de que la conquista sería muy difícil, lo cual hizo renunciar a la conquista de la plaza.

El gobernador de Andalucía, Juan Alonso de Guzmán, tercer duque de Medina-Sidonia, al constatar que la corona renunciaba a conquistar Melilla, decidió tomar la empresa a su cargo, bajo la autorización real. Para ello, comisionó a su escudero Pedro Estopiñán, para que explorara la península de Tres Forcas, misión que llevó a cabo acompañado del artillero Francisco Ramírez de Madrid.

Según Barrantes, cronista de la casa ducal, el duque mandó juntar "cinco mil ombres de apié e alguna gente a cavallo, e mandó aparejar los navíos en que fuesen, e hizolos cargar de mucha farina, vino, tocino, carne, aceyte e todos los otros mantenimientos necesarios; e de artillería lanças, espingardas e toda monición".

"E asimismo llevaron en aquel viaje gran cantidad de cal e madera para reedificar la ciudad. E con toda esta Armada e gente, partió Pedro de Estopiñán, Contador del Duque, por su mandato del puerto de San Lucar en el mes de septiembre del año 1497."

La ciudad fue conquistada el 17 de septiembre de 1497. En 1509, la Capitulación de Cintra, fija de nuevo los límites de las áreas de influencia norteafricana entre Portugal y Castilla, estableciendo que Portugal dominaría la costa atlántica desde Ceuta, dejando la mediterránea para Castilla.

En 1506, tropas ducales con base en Melilla ocuparon la ciudad de Cazaza, situada en la costa occidental de la península de Tres Forcas. Esta conquista le valió al duque de Medina Sidonia el título de Marqués de Cazaza. No obstante, la dominación de Cazaza fue efímera, puesto que en 1533 la ciudad fue asaltada y ocupada.

El 7 de junio de 1556, y ante los cuantiosos gastos que les supone el mantenimiento de la ciudad, los duques ceden la ciudad a la corona.

A partir de entonces, la ciudad estuvo siempre bajo el hostigamiento de los rifeños. En 1860 se firmó el Tratado de Wad-Ras con el sultán de Marruecos. Mediante este tratado, se fijan las fronteras entre el territorio marroquí y la ciudad española. La guerra de Marruecos, que se mantuvo intermitentemente en la zona durante principios del siglo XX, fue especialmente crítica para Melilla. Dos desastres bélicos estuvieron a punto de suponer el fin de la soberanía española de Melilla: fueron los desastres del Barranco del Lobo (1909) y de Annual (1921), ambos ante las cabilas rifeñas comandadas por Abd-el-Krim.

La sublevación militar que originó la Guerra Civil Española comenzó el 17 de julio de 1936 en Melilla. Ese día, el gobernador civil, sospechando de las intenciones de los militar acantonados en la ciudad, envía a la Guardia de Asalto a registrar algunas dependencias militares. Los militares se oponen a dichos registros y, a la vista de las circunstancias, deciden adelantar el inicio de la sublevación prevista para el día siguiente. Por ello, la propaganda franquista denominó a esta ciudad como "La Adelantada".

Desde 1982, dicho país reivindica la ciudad, al igual que Ceuta, como parte integrante de su territorio. Por su parte, el Gobierno de España nunca ha mantenido ningún tipo de negociación al respecto.