Hallo sandinderhand und herzlich willkommen hier bei uns!
Es gibt leider auch Leute, die sich jeden Schuh anziehen und/oder sich sofort persönlich beleidigt fühlen, wenn der jeweilige Gegenüber mal nicht jedes seiner Worte auf die Goldwaage legt und seine Beiträge etwas 'legerer' formuliert.
Hier im Forum herrscht ein recht lockerer Umgangston, der aber nur in den allerseltensten Fällen mal respektlos oder gar persönlich beleidigend wird. In derartigen Fällen (meist schon in den Anfängen einer 'Diskussion', die 'eskalieren' könnte) greift die Moderation auch schnellstmöglich ein, indem die 'Streithähne' zur Ordnung gerufen werden (muss nicht öffentlich im Forum sein) und entsprechende Beiträge gekürzt oder notfalls gelöscht werden, auch (temporäre) Sperrungen werden angedroht und auch angewendet.
Von persönlichen Beleidigungen oder Verleumdungen kann ich hier nichts erkennen (auch im anderen Beitrag nicht) und spekulative Vermutungen können auch durchaus mit einem Zwinkern ausgesprochen worden sein (wobei der 'Verdacht' von Alarmservice-Hamburg auch mein erster Eindruck war

), insofern sehe ich als Moderator hier bislang auch keinen Handlungsbedarf.
Also bitte einfach mal tief durchatmen und sich nicht sofort persönlich angegriffen fühlen (reicht ja schon, dass der 'Nachbar' das anscheinend häufiger macht <-- meine spekulative Vermutung

), dann läuft gleich alles viel leichter.
Doch zur eigentlichen Frage:
Deinen Wunsch nach dem "auf frischer Tat ertappen"-Wollen ist sicherlich nachvollziehbar, aber wenn dein Nachbar schon über seinen 'Haus- und Hofanwalt' verfügt, solltest du den Beiden vielleicht nicht noch 'Steilvorlagen' geben, die die beiden nur noch 'ins Tor' bringen müssen... Schon aus diesem Grunde solltest du auf die (illegale) verdeckte Videoüberwachung verzichten und lieber auf eine offensichtliche Lösung inkl. der gesetzlich nötigen Warnhinweise auf eine Videoüberwachung an der Grundstücksgrenze usw. setzen.
So hättest du eine gewisse Abschreckung (auch gegenüber anderen Unbefugten, es muss ja nicht immer der Nachbar sein) und wenn der 'Hass' deines Nachbarn dann doch so weit geht, dass er auf der Aufzeichnung erscheint, dann hat er wirklich selbst schuld und muss dann die (straf- und/oder zivilrechtlichen) Konsequenzen tragen, genau wie jeder andere Unbefugte auf deinem Grundstück auch.
Positiver Nebeneffekt: du musst dann keine verdeckte Infrarotbeleuchtung o.ä. einsetzen, sondern kannst einfache (und kostengünstige) Außenstrahler mit Bewegungsmelder anbringen, die deiner Kamera genug Licht im Dunkeln verschaffen.
Eine verdeckte Lösung bringt dir ja keinerlei Vorteile: selbst wenn du deinen Nachbarn auf frischer Tat erwischen solltest, sind die Aufnahme nicht gerichtsverwertbar, weil illegal produziert/beschafft. Und da ihr, wie du sagst, die 'Verhandlungsphase' ja bereits endgültig überschritten habt, bringt es dir auch nichts, wenn du (nur) ihm die Bilder quasi als 'Ermahnung' vorhältst. Wie gesagt, du gibst ihm mit einer verdeckten Lösung viel mehr die Möglichkeit, dich wiederum vor Gericht zu ziehen (wo du auch recht eindeutig verlieren würdest) o.ä..
Zur Technik:
- Bewegungserkennung: Moderne (Netzwerk- oder IP-)Kameras verfügen meist schon 'werksmäßig' über eine Bewegungserkennung in der beiliegenden Software, alternativ kann man sich derartiges wohl auch aus dem Internet herunterladen (muss natürlich zur eingesetzten Kamera kompatibel sein), somit brauchst du für die Kameras nicht zwingend eigene Bewegungsmelder.
Die Bewegungserkennungs-Software (auch Motion-Detection genannt) der Kameras stellst du so gut ein, dass nicht jede/r vorbeilaufende Katze oder Igel eine Aufzeichnung auslöst, sondern nur ein größeres Objekt wie eben ein Mensch - sollte bei der Gartenhauskamera kein Thema werden, bei der Kamera im Haus wird das aufgrund der größeren Entfernung vom 'Geschehen' schon deutlich schwieriger, sollte aber trotzdem noch machbar sein...
- Verkabelung/Anschluss/Funk:
Als Verkabelung wäre jeweils eine eigene Netzwerkleitung (ggf. mit PoE-Stromversorgung) pro Kamera das 'Maß der Dinge', da aber wohl nicht jedes Gartenhaus über Netzwerkanschlüsse (oder ein Leerrohr vom Haus, über das man ein bis zwei Netzwerkkabel nachziehen könnte) verfügt, bleibt dir wohl nur zwei bis drei Varianten: 1.) der Versuch, dein vorhandenes WLAN zu nutzen (was an der im Gartenhaus noch verfügbaren Rest-Bandbreite scheitern wird); 2.) ein fertiges System mit ausreichender Funkreichweite zu nehmen (je nach Entfernung Haus <-> Gartenhaus wage ich auch hier zu bezweifeln, dass das klappen wird) oder 3.) eine Kamera mit lokalem Speichermedium (z.B. SD-Karte) einzusetzen und dieses Speichermedium dann auszulesen/zu sichern, wenn du mal wieder zuhause bist.
- Alarmierung:
'Vernünftige' Kameras verfügen auch über Alarmein- bzw. Ausgänge, letztere können dann auch ein Wählgerät o.ä. ansteuern oder du greifst auf fertige Systeme mit SMS-/MMS-Versand zurück.
Wenn gleich ein Bild mitgeschickt würde, wäre es schon nicht schlecht, aber es gäbe auch noch die Möglichkeit, sich nur eine 'Auslösungs-SMS' schicken zu lassen und dann über das Internet (sofern denn am jeweiligen Aufenthaltsort vorhanden) auf sein eigenes Netzwerk zuhause zuzugreifen (feste IP-Adresse vom Provider oder Zugangsservices wie DynDNS o.a. erforderlich) und sich die Bilder 'live' anzuschauen und ggf. weitere Maßnahmen aus der Ferne zu ergreifen (Polizei, Feuerwehr oder den 2m großen 140kg-Freund mit Kampfsporterfahrung, der um die Ecke wohnt, anrufen usw.)
Man sollte aber beachten, dass SMS als (ausschließliche) Alarmierung nicht wirklich ernst gemeint sein kann - denke z.B. nur mal an Silvester und wann an solchen Tagen die Neujahrsgrüße wirklich dem Empfänger zugestellt werden... Mindestens ein Alarmanruf sollte hier realisiert werden (der kann zwar auch auf der Voicebox landen, aber wenigstens stimmt die Übertragungspriorität im Mobilfunknetz stimmt bei einem Anruf!).
- Beleuchtung/Infrarot:
Für den Nachtbetrieb setzt du wie gesagt normale 230V-Bewegungsmelder mit Außenstrahlern ein und wenn die bei einer Katze mal angehen, ist das ja nicht schlimm. Ich sehe zumindest keine Möglichkeit, IR-Strahler irgendwo so an- oder einzubauen, dass sie ausreichende Beleuchtung bringen (die nutzbare Reichweite der meisten Strahler ist echt mies!) und gleichzeitig für Außenstehende nicht sichtbar sind.
Zwei Ideen zum Schluss (die Zweite ist NICHT ernstgemeint):
1.) Es gibt auch fertige 'unsichtbare' Miniaturkameras z.B. in angeblichen 230V-Abzweigdosen. Die sind zwar nicht sabotagegeschützt und haben auch keine Super-Auflösung, Alarmierungsfunktionen o.ä., aber wenn du dir davon eine oder zwei ans Gartenhaus montierst, könntest du mit deinem Wunsch des Erwischens trotzdem Erfolg haben.
2.) Farbbomben wie im Geldtransportgewerbe (aus dem Gartenhaus heraus abschaltbar!!!): Wenn du an so etwas heran kommst, kannst du dir eine 'Falle' basteln, indem du z.B. einen 'tierimmunen' Außenbewegungsmelder oder eine Lichtschranke am Gartenhausfenster als 'Auslöser' für eine in der richtige Höhe montierte Farbbombe verwendest (mit allen Nachteilen der eventuellen Falschauslösung und rechtlichen Konsequenzen!) - dann gibt es entweder eine 'lackierte' Katze (Folge: der Eigentümer und der Tierschutz werden Amok laufen) oder eben einen 'lackierten' Nachbarn (Folge: er und sein Anwalt werden die nächste Klage vorbereiten). Die Farbe ist so fies, die hält ein paar Wochen auf dem Körper (die Klamotten sind dauerhaft versaut)...

Deutlich sichtbare Warnhinweise zu auf dem Grundstück installierten "Sicherheitsmaßnahmen" sollte auch hier in jeden Fall angebracht werden, dann kann man wenigstens noch versuchen, sich herauszureden, falls es doch den Postboten, den Zeitungsjungen oder die eigene Ehefrau 'erwischt' hat.
So, jetzt habe ich zwar subjektive Bewertungen und versuchte Hilfestellung
vermischt, aber ich hoffe, dass ich dir trotzdem etwas weiter helfen konnte.
Viele Grüße
Ollik