Die ersten Großreiche der Antike boten mit ihrem umfangreichen Beamtenapparat beste Voraussetzungen zur Spionage. Die Ägypter bezeichneten in der Phase des »Neuen Reiches« (1550-1070 v. Chr.) die für solche Aufgaben zuständigen Beamten als »die Augen des Pharao«. Ganz ähnlich wird für den Perserkönig Kyros den Großen (ca. 590-530 v. Chr.) berichtet, er habe »viele Augen und Ohren« gehabt, also Agenten, die für ihn Informationen sammelten.
Die Bedeutung, welche der Spionage bereits früh beigemessen wurde, zeigt sich auch in der Tatsache, dass der chinesische General Sunzi (ca. 554-496 v. Chr.) diesem Thema in seiner bis heute bedeutenden Schrift »Die Kunst des Krieges« ein eigenes Kapitel widmete.
Natürlich bedienten sich auch Griechen und Römer geheimdienstlicher Mittel. Dabei haben allerdings gerade die für ihr vorausschauendes Organisationstalent bekannten Römer erst nach einigen empfindlichen Niederlagen gegen den karthagischen Feldherrn Hannibal den Wert präventiver Spionagearbeit schätzen gelernt.
Einige der wichtigsten Ausdrücke zu diesem Thema leiten sich aus der römischen Sprache ab: Das Wort Spionage stammt von dem lateinischen spicere (sehen, schauen, spähen) und auch die Bezeichnung für das Wort »Agent« findet sich in römischer Zeit: Beamte, die geheimdienstliche Aufgaben wahrnahmen, hießen agentes in rebus, was man in etwa mit »Beauftragte in allgemeinen Angelegenheiten« übersetzen könnte.
Im Mittelalter dienten den Herrschern in Europa vor allem Geistliche als Agenten. Die Voraussetzungen dafür waren ideal: Die Kirche verfügten über ein europaweites Netz aus Standorten wie Bischofssitzen oder Klöstern, die über ein Kuriersystem verbunden waren. Die Geistlichen waren zudem des Schreibens mächtig und beherrschten zum Teil mehrere Sprachen.
Ab dem 15. Jahrhundert wurde Spionage immer professioneller betrieben, nachdem die Agenten zuvor primär meist in anderer Funktion (etwa als Kaufmann oder Soldat) unterwegs waren und eher »nebenbei« spionierten. In England entstand unter Königin Elisabeth I. (1533-1603) der erste institutionalisierte englische Geheimdienst.
In Frankreich überwachte Kardinal Richelieu (1585-1642) mit dem »Cabinet Noir« den Briefwechsel von Diplomaten und politisch verdächtigen Personen. Dieses frühe System der Postüberwachung wurde schließlich durch die »Geheime Ziffernkanzlei« in Wien, die von ca. 1716 bis 1848 bestand, perfektioniert.
Die Alberti-Scheibe war eines der ersten Geräte zur Verschlüsselung von Nachrichten (15.Jh.)
Neue technische Entwicklungen wie Telegraf, Telefon und Fotografie veränderten ab Mitte des 19. Jahrhunderts die Arbeit der Geheimdienste nachhaltig. Nicht nur, dass Informationen nun auf völlig neue Art, etwa durch bildgebende Verfahren, gesammelt werden konnten, zudem beschleunigte sich die Übertragung der Daten immens. Der Mensch als Quelle trat dabei im Laufe der Zeit immer mehr in den Hintergrund, die technische Informationserfassung gewann zunehmend an Bedeutung.
In den beiden Weltkriegen erwiesen sich die Geheimdienste oft als das entscheidende Mittel, um den Kriegsverlauf zu beeinflussen – etwa durch das Entschlüsseln der deutschen Chiffriermaschine „Enigma“ durch den britischen Geheimdienst. Der anschließende Kalte Krieg war geprägt von massiven Spionage-Operationen sowohl von westlicher als auch von östlicher Seite. Neben der militärischen Aufklärung wurden Geheimdienste in dieser Zeit auch intensiv zum Machterhalt politischer Regime genutzt.
Nach dem Zusammenbruch des Ostblocks in den frühen 1990er-Jahren hat sich die Aufgabenverteilung für Geheimdienste deutlich verschoben. Neben der Wirtschafts-Spionage entwickelte sich spätestens seit den Angriffen auf die USA am 11. September 2001 die Bekämpfung des internationalen Terrorismus zu einem der wichtigsten Arbeitsfelder. Dieses dient den Regierungen oft als Argument für die spätestens seit den Enthüllungen von Edward Snowden im Jahr 2013 bekannten Programme zur automatisierten Massenüberwachung.
Doch neben den neuen Möglichkeiten zur Spionage stellt das Medium Internet durch die stetig anwachsende Menge an Informationen, die mit der alltäglichen Nutzung durch viele Milliarden Menschen entsteht, eine extreme Arbeitsbelastung für Geheimdienste dar.