A origem do mosaico é indeterminada, sendo que essa arte se manifestou com grande expansão durante o Império Romano, particularmente em Pompéia no século 1º e em Constantinopla, no século VI. Os romanos difundiram a arte do mosaico em todos os confins do Império (veja página dedicada ao mosaico romano*).

O mais antigo mosaico existente foi feito em torno de 3000 a.C. pelos Sumerianos (antiga mesopotâmia), na área hoje conhecida como Iraque. Era constituída de arranjos de estacas coloridas de argila que eram prensadas dentro da superfície de paredes. Depois os egípcios usaram fragmentos de materiais coloridos e pedras semipreciosas para decorar paredes, móveis, objetos e peças de joalheria.

O crescimento do cristianismo (veja página dedicada ao mosaico e cristianismo*) introduziu novos temas, mas as técnicas e materiais continuaram intactos até a era bizantina, iniciada pelo Imperador Justiniano em Ravenna*, em torno de  527 d.C. Este foi o mais rico e inovativo período do mosaico, exemplificado pela maravilhosa e luminosa criação de igrejas bizantinas (veja página dedicada ao mosaico bizantino*).

Nos textos antigos se lê que, com excessão dos poucos mosaicos de elementos arredondados, se começou a compor o mosaico quando nasceu a arte de cortar a mármore. Não sabemos entretanto se este mérito deve ser atribuído aos gregos, aos egipcianos ou aos persianos. Se pode apenas pender para os egipcianos recordando as palavras de Erodoto na descrição dos tetos e das paredes das salas do Labirinto na Cidade dos Crocodilos, toda ornada de pinturas esculpidas.

Também os egipicianos não foram os primeiros, mas certamente dada a antiguidade das descobertas arqueológicas e aos testemunhos literários, esses estavam entre os primeiros. Quanto aos persianos, não nos maravilha o fato que mais que todos os outros, estes tenham tido um interesse pelo trabalho com a pedra. De qualquer maneira, os verdadeiros inventores da arte musiva foram muito provavelmente os persianos.

O mosaico floriu, antigamente, nas regiões ricas de mármore e cada país usava preferencialmente as mármores das suas próprias escavações. O ponto de desembraco eram os magazines de recebimento dos pontos portuários de Ostia e do porto de Adriano: depois em Roma, ao longo do Tevere, próximo ao monte Testaccio, se encontrava o depósito definitivo: a "marmoraria". Não se deve excluir que os depósitos importantes existiam também junto aos maiores portos do Adriático: Aquileia, Ravenna e Classe.

O período de máximo florescimento das vidraçarias combinadas a lojas para o mosaico pode ser indicado no ano de 313 a.C., no Egito, na cidade de Alessandria fundada por Alessandro Magno. Por sua vontade política Alessandria foi o centro mais importante para estudos e técnicas aplicadas de variadas formas de arte. É a partir deste momento que a arte do mosaico teve a disposição material idôneo para o seu desenvolvimento.