Potreba odstránenia kontrol vznikla na spoločných hraniciach Nemecka s Francúzskom. Tieto dve krajiny uzavreli v roku 1984 Saarbrückenskú dohodu, ktorou ukončili dlhé kolóny európskych dopravcov na hraničných priechodoch. Pridalo sa k nim Belgicko, Holandsko a Luxembursko. Predstavitelia tejto pätice sa stretli v luxemburskom meste Schengen, kde v roku 1985 podpísali Schengenskú dohodu.

Bodmi dohody však nebolo len odstránenie spoločných a posilnenie vonkajších hraníc. Zamerali sa i na zjednotenie podmienok pri žiadosti o azyl, policajnú spoluprácu a opatrenia proti cezhraničnému obchodovaniu s drogami.

V roku 1990 bol prijatý Schengenský dohovor. Jeho obsahom bol konkrétny postup a kroky, ktoré mali pripraviť krajiny na odstránenie hraničných kontrol. Kvôli náročnému procesu, ktorý mal umožniť realizovať víziu voľného prechodu cez hranice, nadobudol účinnosť až o päť rokov neskôr. V tomto čase sa pridali aj ďalšie krajiny, ktorými boli Španielsko a Portugalsko.

Na jeho myšlienku chceli nadviazať zvyšné štáty z Európskej únie, ale aj mimo nej. Súčasťou schengenského priestoru sa tak stalo Nórsko, Švajčiarsko a Island, ktoré nie sú členmi únie. Dohodu mohli uzavrieť vďaka tomu, že prispeli k vývoju a uplatňovaniu schengenského právneho poriadku.

Dôležitým bodom vo vývoji bolo uzavretie Amsterdamskej zmluvy, ktorá spôsobila začlenenie schengenského právneho poriadku do rámca Európskej únie. Krajiny uchádzajúce sa o členstvo v Európskej únii sú odvtedy povinné prijať a zabezpečiť otvorenie hraníc na voľný pohyb osôb a tovaru. Výnimku si vybojovala Veľká Británia a Írsko, ktoré nemuseli vstúpiť do schengenského priestoru. Slovensko sa stalo jeho súčasťou v roku 2007 spolu s ďalšími ôsmimi krajinami Európy.

Na posilnenie vonkajších hraníc Európskej únie bol vytvorený Schengenský informačný systém. Spája domáce informačné databázy, ktoré poskytujú informácie o určitých osobách a veciach. Najmä o hľadaných alebo právne stíhaných občanoch.