Schatten-KI: Darf man sein privates ChatGPT bei der Arbeit nutzen? | Benjamin Neweling

00:00:01: Was ja eigentlich super überraschend ist, wenn man drüber nachdenkt und die Diskussion der letzten fünf bis zehn Jahre hier in Deutschland mitbekommen hat.

00:00:09: Wie hoch der Datenschutz immer gehangen wird, wie sehr man darauf achtet ... Wir kennen alle das Bild, sie filmen mir ins Gesicht oder das Video.

00:00:19: Das ist Datenschutzen.

00:00:20: Das sind Themen, die uns jeden Tag überall begegnen.

00:00:26: Und dann hat man vor drei Jahren scheinbar so diesen Schalter im Kopf umgelegt und die Leute pumpen, ohne drüber nachzudenken.

00:00:33: Alles was sie zwischen den Fingern bekommen.

00:00:34: Weil's gemütlicher

00:00:35: ist?

00:00:35: Ja klar!

00:00:36: Wir kennen es ja auch aus eigenem Erleben.

00:00:38: Natürlich ist das super, irgendeinen PDF da mal reinzustellen und konkrete Fragestellungen der KI mitzugeben anstatt sich selber da die dreißig Seiten durchzulesen.

00:00:50: In der Zeit, in der ich mir da spare kann ich eben auch andere Dinge machen aber das greift dann halt oft zu kurz.

00:00:56: Und das mag ein kurzfristiger Effizienzgewinn für mich sein, aber auf so eine lange Sicht gesehen.

00:01:04: Gerade wenn ich vor allen Dingen beruflich ist mit Privatem über den selben Account miteinander vermische oder ... Ich gebe vielleicht höchstpersönliche Informationen mit.

00:01:15: Vielleicht fühle ich mich an einem Tag mental nicht gut und versuch das mal mit ChatGPT zu diskutieren um da ... Einfach auch mal positives Feedback zu bekommen oder vielleicht einen Weg aus meiner persönlichen Situation herauszufinden.

00:01:30: Und es sammelt sich alles an in den Accounts und...

00:01:33: Das fließt dann auch in die Antwort für die beruflichen

00:01:35: Anfragen?

00:01:36: Ja, so!

00:01:38: Wir kennen das ja selber auch aus Kundenkontexten.

00:01:41: da werden dann seitenweise Dokumente geschrieben die dann auch so ein gewissen Touch bekommen können weil das, wie du schon sagst immer mit einfließt man kann es oft auch in den Accounts nachvollziehen, dass da Memory datein über einen angelegt werden und wenn man da bestimmte psychische Dispositionen hat und das fließt dann auf irgend eine Art und Weise in meine Arbeitsweise ein dann brauch man sich ja gar nicht auszumalen, was das für Konsequenzen hat HiWay.

00:02:19: Dein Wegweiser für Digitalisierung

00:02:21: und Sicherheit.

00:02:22: Präsentiert von HiSolutions.

00:02:30: Wir alle tun es täglich, ob im beruflichen Leben oder in unserem privaten Alltag.

00:02:35: Jetzt stellen sich die einen oder anderen von euch die Frage wovon redet ihr gerade?

00:02:38: Ich spreche von KI.

00:02:40: Konkret vom KI Chatbots!

00:02:43: Ich kenne sie aus meinem Privatleben in meiner Tasche.

00:02:46: Mein Chatty auf meinem Handy begleitet mich tagtäglich.

00:02:49: ich bin mir sicher da können viele von euch mit relaten aber eben auch im beruflichen Alltag.

00:02:55: Ich begegne KI oft im Bildungskontext als Beraterin

00:02:58: für

00:03:00: KI in der Bildung oder eben auch Im Kontext von Unternehmen, die wir beraten.

00:03:06: Was passiert aber wenn ich KI so ausgiebig im beruftlichen Kontext einsetze?

00:03:11: Dass sich anfange auch Chats mit Kolleginnen und Kollegen zu teilen Und dann wie es vor einigen Wochen der Fall war Google Zugriff auf diese Chat-Inhalte hat?

00:03:20: Ist das schon ein Sicherheitsvorfall und was mache ich dann als Unternehmen damit?

00:03:25: Darüber wollen wir heute sprechen.

00:03:26: Ich bin Jacqueline Nayis, und das ist der HiWay!

00:03:30: Und um über dieses wirklich spannende Thema zu sprechen – und ich hoffe ihr findet es genauso spannend – habe ich mir heute einen meiner Lieblingsprojektleiter dazu geholt, Benjamin Neweling, Sicherheitsberater bei uns bei der HiSolutions und zuständig und Experte für die Themen KI Und Grundschutz.

00:03:46: Herzlich willkommen, Benjamin!

00:03:47: Ja, hi und vielen Dank, dass ich hier sein darf.

00:03:49: Sehr

00:03:49: gerne.

00:03:54: Wir zwei arbeiten ja sehr viel im Bereich der KI und auch sehr viel in dem Bereich Grundschutzzusammen.

00:04:00: Und wir sehen selber wie stark KI auch Einzug in den beruflichen Alltag findet und das auch immer mehr MitarbeiterKI nutzen.

00:04:07: Das heißt, der Einsatz im Beruf ist da.

00:04:09: Jetzt ist es das Problem, nehmen wir häufiger begegnen... ...wir klären gleich überhaupt ob es wirklich ein Problem ist Die sogenannte Schatten-KI.

00:04:18: Schatten KI ist eben, korrigier mich gerne, Mitarbeiter nutzen KI Chatbots von denen das Unternehmen nichts weiß.

00:04:27: Was passiert da eigentlich bei diesem Einsatz von Schatten-KI?

00:04:30: und was ist das Problem?

00:04:32: Genau, da sprichst du ja eigentlich schon einen guten Punkt an.

00:04:36: In den meisten Fällen kennt man ja den Begriff Schatten IT.

00:04:40: also ich nutze vielleicht nicht freigegebene Geräte mein Smartphone im betrieblichen Kontext weil ich dann mal schnell was nachschauen möchte.

00:04:47: und Im Grunde musst du dir das bei Schatten KI genauso vorstellen.

00:04:53: Du hast vielleicht dein eigenes ChatGPT-Abo oder Claude Abo Und am Ende des Tages willst du das ja dann auch nutzen, damit es dir vielleicht bei der Arbeit weiter hilft.

00:05:02: Dass du eine unliebsame Aufgabe vielleicht auch schneller einfach erledigt bekommst.

00:05:06: und da fängt eigentlich genau das Problem an.

00:05:08: Denn wir wollen ja in so einem Unternehmenskontext nicht dass die Mitarbeiter einfach ihre eigenen Tools nutzen sondern das soll ja schon auch gesteuert sein.

00:05:18: Da soll es jemanden geben, der da vielleicht auch mal reinschaut oder vielleicht auch einmal die Frage nach der Datenverarbeitung stellt.

00:05:27: Und genau hier kommt eigentlich der große Faktor von der Schatten-KI auch zum Tragen.

00:05:32: Weil so ein Unternehmen kriegt dann im Zweifelsfall auch gar nicht mit, wer nutzt den was und welche Daten werden da eigentlich verarbeitet?

00:05:40: Wir hatten mal vollkürzen kannst du durch erinnern eine Ansprache von Ronny Frankenstein, der war vollkurzem bei uns im Podcast zu sehen Und er hat gesagt, dass wir in dem Moment wenn wir anfangen diese KI zu befüttern eigentlich gar nicht mehr für unser Unternehmen arbeiten sondern für das KI-Unternehmen arbeiten.

00:05:58: Weil wir ganz viele Daten von uns der KI Preis geben.

00:06:01: und dann stellt man sich mal vor man arbeitet für eine Verwaltung oder so und gibt dann auf einmal Bürgerdaten ein und auch personenbezogene Daten was für eine Tragweite das eigentlich haben kann.

00:06:13: ne?

00:06:14: Ja, absolut.

00:06:15: Also grade ... ich sag mal die Nutzung von so einem privaten Chat-GPT-Abo, ne?

00:06:20: Du meldest dich an, du hast vielleicht deine zwanzig Euro im Monat gezahlt und dann denkst du dir ja, ich hab den Anbieter bezahlt, dann passt es ja soweit erst einmal für ihn.

00:06:30: Und das ist der Trugschloss.

00:06:31: Denn alles was du in diese KI eingibst, da gibt's sicherlich auch Funktionen um das zumindest einzuschränken wird von den Anbitern verarbeitet.

00:06:41: Die trainieren da ihre neuen Modelle drauf.

00:06:44: Sprich das, was du da in den Chat reingibst.

00:06:46: Vielleicht irgendein Verwaltungsvorgang irgendwelche personenbezogenen Daten die wandern in den Trainingssatz ein und das neue Modell hat sie jetzt nicht eins zu eins abrufbar.

00:06:57: aber das steckt damit drin Und ein berühmter Fall ist beispielsweise von Samsung aus zwanzig dreiundzwanzig D haben Konstruktionspläne für Chips Haben die in die KI hochgeladen und dann muss man eben davon ausgehen, dass diese Inhalte dann entsprechend auch in dem KI-Modell zumindest indirekt abrufbar sind.

00:07:21: Also da wirst du jetzt nicht irgendwie deinen Namen eingeben können und der weiß dann zufällig.

00:07:26: ja wenn da irgendein Verwaltungsmitarbeiter da vielleicht was reingepackt hat, kann er das im Zweifel zwar nicht eins zu eins zuordnen aber gerade bei komplexen Fragestellungen Im Unternehmenskontext gibt es halt nicht allzu viel Auswahl zu bestimmten Themen.

00:07:43: Und das heißt, man kann da relativ schnell dann darauf wieder zurückkommen.

00:07:50: Jetzt ist dieses Samsung Beispiel finde ich ein sehr gutes Beispiel um so die Tragweite davon zu erläutern.

00:07:58: Extrem Beispiel wahrscheinlich, weil das natürlich auch Auswirkungen auf die Wettbewerbsfähigkeit von Samsung haben könnte.

00:08:04: Du als Sicherheitsberater, wann würdest du sagen liegt ein Sicherheitsvorfall vor?

00:08:09: Das muss man eigentlich zweigeteilt sehen.

00:08:13: Vielleicht gibt es in dem Unternehmen ja eine Richtlinie, die sagt, du darfst nur unsere freigegebenen Tools nutzen und wenn du dann jetzt mit nicht kritischen Daten deinen eigenes Chat-GPT Team nutzt, dann ist das natürlich nicht schön fürs Unternehmen.

00:08:30: Aber es ist ein erster Linienrichtlinienverstoß und das Mittel der Wahl wäre dann dich nochmal aufzuklären, dich noch mal in eine Sensibilisierungsschulung zu schicken einfach damit du dir der Tragweite deines Handels auch bewusst

00:08:42: wirst.".

00:08:43: Ein Sicherheitsvorfall haben wir genau dann, wenn beispielsweise vertrauliche Informationen und Daten da hochgeladen werden.

00:08:51: Weil dann in diesem Moment das Unternehmen eben die Kontrolle über diese Daten verliert.

00:08:56: Sie sind hochgeladene.

00:08:58: Schönes Beispiel hast du selber eben gemacht – die Chats können teilweise auch von Google indiziert werden.

00:09:06: relativ unkomplexen Google-Suche mir spezifisch nur Chats von Claude oder von OpenAI anzeigen lassen und kann da einfach mal reinschauen.

00:09:15: Und wenn man das macht, ist man dann doch schon überrascht was man denn auch alles wiederfindet?

00:09:20: Du hast KI Richtlinien oder Richtlinie im Allgemeinen schon angesprochen.

00:09:25: Jetzt stelle ich mir die Lösung total leicht vor.

00:09:27: Hilf mir!

00:09:29: Reicht es aus eine KI Richt Linie oder eine Richtlinie für den Einsatz und den Umgang mit KI im Unternehmen einzuführen.

00:09:36: Und dann noch zu sagen, okay liebe Unternehmens-IT, sperrt bitte die folgenden Chatboardseiten damit ich eben sicher gehen kann dass die SchattenKI nicht mehr eingesetzt wird?

00:09:47: Würde ich dir initial erstmal zustimmen scheint wieder logischer erste Schritt zu sein.

00:09:52: Ich verbiete es erst mal und dann sorge auch dafür das das Verbot irgendwie eingehalten wird.

00:09:57: aber wenn man das Thema sich dann nochmal vor Augen führt und vielleicht auch mal ein bisschen abgleich, wie man selber reagieren würde.

00:10:04: Merkt man ganz schnell.

00:10:05: eigentlich verlagere ich das Problem ja nur damit gerade wenn ich dann auf einer technischen Ebene die Webseiten schwärme, aber wenn Cloud AI nicht mehr über meinen Arbeitslaptop verfügbar ist, zwinge ich hier eigentlich die Leute, die diese KI nutzen wollen dazu nicht nur SchattenKI zu betreiben sondern vielleicht dann auch SchattenIT indem sie dann ihr private Smartphone dafür nutzen.

00:10:30: Bei der Richtlinie ist es relativ ähnlich.

00:10:33: Ich kann natürlich in Prosa Seiten lang beschreiben, dass ich das nicht darf und jenes nicht darf Und nur die freigegebenen Tools genutzt werden dürfen.

00:10:44: Aber so eine Richtlinia beschreibt ja im Wesentlichen einfach nur so ein Regelungswerk und In Kraft gesetzt und gelebt werden muss es ja trotzdem.

00:10:55: Das heißt Man ist da recht schnell auch wieder in den Überlegungen, die einen aus der grundsätzlichen Informationssicherheit bekannt vorkommen.

00:11:02: Und dafür gibt es dann jetzt das Mittel eine ISO-Norm auch als Management-System in die Unternehmen einzubringen, recht ähnlich zur ISO2701.

00:11:14: Da weiß ich eben als aufmerksamer Zuschauer Eures Podcastes habt ihr ja schon behandelt das Thema Und das ist hier eigentlich relativ ähnlich gelagert.

00:11:22: Also so eine Richtlinie alleine hilft einem nicht, sondern man braucht eben ein Governance-System.

00:11:27: Also ich brauche einen festgelegten Prozess, wie gehe ich denn damit um?

00:11:31: Wenn neue KI Features oder neue KI Tools eingeführt werden sollen und wir haben bisher jetzt nur über einfache Zugangswege gesprochen.

00:11:41: So ChatGPT oder Claude Aber du kennst es ja aus deinem eigenen Erleben hier bei uns in der Firma Unser Teams hat ja auch Transkriptionsfunktionen.

00:11:51: Oder so eine Firewall, die wird jetzt zukünftig auch mit KI-Features ausgeliefert.

00:11:57: Das heißt selbst wenn die Tools mal freigegeben wurden, ne?

00:12:00: So ein Microsoft-Dreifemundsechzig Word-Excel Powerpoint dann sind sie nie unter den Gesichtspunkten eines KI-Systems freigegegen worden.

00:12:10: Das heißt, wir haben vielleicht in der Organisation schon Tools die zukünftig eben KI-Features bekommen.

00:12:17: Das heißt mit denen muss ich ja auch irgendwie umgehen können und eine Richtlinie sagt einfach nur das darf ich und das darf nicht schwarz und weiß aber oft kommt es ja auf die Zwischentöne an Ja?

00:12:29: Ich muss ja dann auch reinschauen wo werden denn vielleicht ganz konkret die Daten verarbeitet?

00:12:33: wie hoch ist denn das Risiko für meine Organisation dass vielleicht Daten abfließen?

00:12:39: habe ich vielleicht andere regulatorische Vorgaben, dass diese Informationen nur in Europa verarbeitet werden dürfen oder sollten.

00:12:48: Das heißt man ist hier im vielfältigen Regelungsumfang drin und muss dann schauen das vernünftig in die Organisation bekommt.

00:12:58: um es mal ein bisschen einfacher zu sagen Und da hilft die Richtlinie nicht sondern wir brauchen auch an der Stelle eigentlich ein Management-System.

00:13:08: Und das bietet dem dann die ISO-Ausbietung bei der ISO-Bahne, als Beispiel.

00:13:13: Aber es gibt auch Möglichkeiten, das Ganze im IT-Grundschutzkontext umzusetzen.

00:13:18: Jetzt hast du einen Begriff verwendet, den wir beide in unserem beruflichen Alltag häufiger begegnen, aber der vielleicht nicht jedem oder jeder Zuhörerin und jedem Zuhörer so eindeutig ist.

00:13:27: Ein Managementsystem!

00:13:29: Was ist das?

00:13:30: Ist das etwas, dass ich mir runter lade.

00:13:32: Ist es eine Excel-Tabelle?

00:13:33: Ist es etwas, was ich selber aufbauen muss?

00:13:35: Was kann sich jemand, der keine Ahnung von der Materie hat darunter vorstellen?

00:13:40: Ich mache's an einem Beispiel fest... Wenn wir jetzt hier in der High Solutions KI nutzen wollen dann macht es ja und da wirst du mir wahrscheinlich zustimmen wenig Sinn wenn sich jeder selber drum kümmert.

00:13:55: Ich möchte jetzt Klot nutzen.

00:13:57: Also kämpfe ich dafür, dass wir Klot machen und sage euch einen, nutzt das

00:14:00: auch.".

00:14:00: Das ist super unstrukturiert!

00:14:03: Bei der Informationssicherheit kennt man das auch.

00:14:05: Macht wenig Sinn wenn man ein super engagierten Admin hat und einer, der keine Lust auf Sicherheit hat sondern man muss da ja so eine Baseline finden und schauen, dass es überall im Unternehmen gleich gelebt wird.

00:14:16: Und genau das ist ein Managementsystem.

00:14:18: Du brauchst dafür ne Ablauf- und Aufbauorganisation also du brauchst Rollen und Zuständigkeiten die eben in diesem Kontext von KI-Steuerung dann ihre Aufgaben haben.

00:14:30: Du brauchst Dokumente, also sowas wie eine Richtlinie oder so ein Konzept, wie du KI einführen möchtest.

00:14:38: Du braucht Prozesse, also beispielsweise einen Prozess um neue KI Tools einzuführen und Risikoanalyse auch durchzuführen, um zu wissen wohl liegen jetzt hier genau die Probleme im Tool oder in dem Prozess?

00:14:53: Und es gibt Schnittstellen!

00:14:55: Die drängendsten Schrittstellen in diesem Kontext sind natürlich die Informationssicherheit, also eine Schnittstelle zum ISMS.

00:15:02: Ich muss mit dem Verantwortlichen für Informationssicherheit mal sprechen wie er vielleicht zu diesem KI-Tool steht ob er aus Vertraulichkeitssicht beispielsweise da einwenden hat und ich muss mit den Datenschutz sprechen.

00:15:16: das wäre die nächste Schnittstellen weil vielleicht werden da ja auch personenbezogene Daten verarbeitet Und die Gesamtheit dieser Punkte Das bezeichnet man als Managementsystem.

00:15:29: Wenn ich das jetzt als Bürger oder als Mensch, der dann Dienstleistung von Unternehmen in Anspruch nimmt betrachte ... Dann weiß sich ja, als aufmerksamer Zuhörer unseres Podcasts, dass es etwas gibt, das sich EUAI-Act nennt um das Ganze zu regulieren.

00:15:46: Ich weiss die Unternehmen und Behörden werden in die Pflicht genommen, sich entsprechend auf den Einsatz von KI vorzubereiten.

00:15:52: wie das kontrolliert ist Kann man in einer anderen Folge diskutieren.

00:15:57: Wie geht das mit dieser Isonorm einher, die du gerade genannt hast?

00:16:00: und kann ich dann als Bürger sicher sein dass mit meinen Daten gut umgegangen wird?

00:16:07: AI-Act und die Norm spielen auf derselbe Spielfeld eignen, ob es mal so zu sagen ja also der AI-Act als EU Verordnung gibt dir sowas wie gesetzliche Grundlagen.

00:16:20: Bestimmte KI-Systeme dürfen eben in der EU nicht betrieben werden, gerade wenn es dann im Kontext auch von biometrischen Daten geht und dass man da vielleicht die Sicherheitsbehörden mit einbezieht ... Das sind immer so schwierige Kontexste nenn ich's mal wo man ganz genau hinschauen muss ist das Ganze erlaubt oder nicht?

00:16:40: Dann gibt es Hochrisikosysteme.

00:16:43: Denkt ihr einfach nur einen Personalverwaltungsprogramm vor dass auch Bewerbungen erfasst.

00:16:51: So, diese Bewerbung ... Du kennst das von unseren Kolleginnen aus

00:16:54: H.R.,

00:16:54: die bekommen teilweise mehrere hundert Bewerbingen pro Monat.

00:16:59: Da muss man ja erst mal einen ersten Screening machen.

00:17:02: Wenn bei diesem Screening schon ein KI-Modell zum Einsatz kommt, dann sind wir hier in einem Bereich, wo es hohes Risiko besteht.

00:17:11: Zusammengefasst lässt sich eigentlich sagen der AI-Act definiert verschiedene Risikoklassen und mit diesen Risikkoklassen einhergehen eben Anforderungen.

00:17:22: Die ISO-Norm ist das Werkzeug, wie diese Vorgabenanforderung dann in der Organisation strukturiert umgesetzt werden können also sowas wie einen risikoorientierten Ansatz dass man Prozesse definiert wie neue KI Tools und Features eingeführt werden können dass man bestimmte Verantwortlichkeiten definiert, die genau dafür zuständig sind.

00:17:47: Eigentlich auch wieder recht analog zu so einem ISMS und den Aufbau dem man da kennt.

00:17:51: Okay das heißt ich nehme jetzt aus den ersten beiden Fragen oder aus den ersten beiden Punkten, die wir besprochen haben mit zum einen... Sicherheitsvorfälle sind nicht untypisch beim Einsatz von Schatten-KI.

00:18:03: Schatten-KI, so zu verhindern, indem ich sage für eine Richtlinie ein und ich verbiete jetzt einfach den Zugriff auf bestimmte Seiten verlagert eigentlich nur das Problem Ich brauche einen Management System.

00:18:15: Wo fängt dein Unternehmen dann an?

00:18:17: Wo ist der Punkt wo eine Organisation sagt da starte ich unter welchen Punkten scheiterte es am häufigsten?

00:18:26: Der erste Schritt Der ergibt sich aus meiner Sicht sowohl aus dem AI-Akt, aber auch eben aus diesem grundsätzlichen Vorhaben das Managementsystem bei sich einzuführen und das ist erstmal sich ein Überblick zu verschaffen.

00:18:38: Welche KI Tools nutze ich denn jetzt wirklich in meiner Organisation?

00:18:42: Und da hilft es dann in den seltensten Fällen die IT zu fragen weil das Thema SchattenKI beim an den selternsten Fellen der IT mit aufgehangen ist sondern man muss in jedem Fall mit den Fachbereichen sprechen vielleicht auch mal in der Pause sich dazusetzen, wenn man dann im Kundenkontext sich bewegt.

00:19:00: Vielleicht einmal zum Mittagessen gehen und da mal nachfragen was nutzt ihr denn?

00:19:04: Ist euch bewusst dass ihr vielleicht hier Teams benutzt wo auch KI-Features drin sind?

00:19:10: wird das bei euch administriert?

00:19:12: also da ganz klassisch mal auf den Zahn horchen und dann einen Überblick schaffen und dann ergibt sich der Rest eigentlich aus dem, was man da gefunden hat.

00:19:22: Also wenn man feststellt okay die Mitarbeiter, die nutzen sehr viel Schatten KI dann wäre das beispielsweise eine Situation wo wir die Kollegen vom Change Management mit dazu nehmen würden eben um Mittel und Wege zu finden diesen Produktivitätsbooster den die Mitarbeiter ja offensichtlich wollen weil nichts anderes ist ja eine KI Funktion zu nutzen dass man das aufhängt, dass man da auch mal ein Licht reinwirft.

00:19:49: Was wird denn eigentlich wirklich benötigt und in welchem Umfang?

00:19:53: Dann kann man parallel am Markt schauen welche Tools erfüllenden zum einen unsere Vorgaben hinsichtlich Datenverarbeitung, Datenspeicherung aber auch mit dem gewünschten Funktionsumfang weil oft versucht man dann eben als schnelle lösung irgendein tool einzuführen was aber völlig am bedarf der mitarbeitenden und mitarbeiter vorbei geht.

00:20:17: Und dann ist am ende auch niemandem geholfen weil da gibt es eben diese richtlinien.

00:20:21: die sagt nur freigegebene tools dürfen genutzt werden.

00:20:24: wenn mir das tun nicht weiter hilft an ja is meine konsequenz entweder Schatten - KI oder auf die funktion zu nutzen und dass ist ein Thema.

00:20:35: Unternehmen werden das in Zweifelsfall auch nicht lange durchhalten.

00:20:40: Ist ein guter Punkt.

00:20:41: zum Schluss hin, finde ich.

00:20:42: Also die erste Erkenntnis, die ich nach jeder KI-Folge oder nach jeder AI-Diskussion hatte ob sie jetzt im Kontext Grundschutz stattfindet?

00:20:50: Oder ob sie im Grundschut... Kontext Bildung stattfindet, in den beiden Bereichen bin ich ja auch als Beraterin unterwegs.

00:20:57: Ist immer wie sollen die KI nicht verteufeln?

00:21:00: Sondern dem Menschen ein realistisches Bild von der KI geben?

00:21:03: und meine letzte Frage wäre jetzt gewesen Wie nehme ich die Mitarbeiter mit?

00:21:06: aber oder In welche Pflicht nehme Ich meine Mitarbeiter an einem Organ in einer Organisation in einem Unternehmen was auch immer?

00:21:14: Und hier hast du jetzt so halb beantwortet ich Sollte sie eigentlich in diesen Change Prozess mitnehmen Damit ich auch gucken kann, welche Bedarfe haben Sie?

00:21:24: Worauf wollen sie einzahlen?

00:21:25: Zu welchem Zweck wollen sie KI überhaupt einsetzen um dann die richtigen Tools zu besorgen und um dann auch sicherzugehen.

00:21:33: Die haben alles was sie zum Arbeiten brauchen und nutzen dann eben keine Schattenkai mehr im besten Fall

00:21:40: Genau.

00:21:40: wichtig ist dann auch noch dafür zu sorgen dass sie über die Chancen und Risiken ausreichend geschult sind.

00:21:46: da besteht die Vorgabe schon seit Anfang letzten Jahres Durch den EUAI-Act?

00:21:53: Und ansonsten ist es ein sehr kommunikatives Thema.

00:21:58: Der Bedarf ist unbestritten da bei den Mitarbeitenden und dann würde ich genauso vorgehen, wie du es jetzt gerade nochmal zusammengefasst hast.

00:22:08: Und für allen Dingen dafür sorgen das eben einen realistischer Blick sowohl auf die Chancen... bezogen auf das Unternehmen.

00:22:16: Also kann ich vielleicht meine Leistungen effizienter an den Kunden bringen, hat das vielleicht auch Auswirkungen auf dem Preis, den ich am Markt anbieten kann?

00:22:24: Wie zufrieden sind meine Mitarbeitenden?

00:22:25: wie produktiv und effektiv können meine Mitarbeiter

00:22:28: arbeiten?".

00:22:29: Das ist das eine.

00:22:30: Auf der anderen Seite muss sich dann natürlich auch schauen, wie kann ich meine Vorgaben denn im Kontext auch der Produkte am Markt umsetzen?

00:22:41: Wie ist das jetzt für mich als Mitarbeiter des Unternehmens?

00:22:43: Heißt, dass ich darf dann sobald dieses Management-System etabliert wurde gemäß der ISO-Norm.

00:22:50: Darf ich da nichts mehr in die KI eingeben im Arbeitskontext?

00:22:54: Sprich nicht mal eine Nachfrage stellen, die jetzt arbeitsrechtlicher Natur wäre oder so?

00:23:01: Nein also das darf in keinem Fall eigentlich das Ziel von dem Managementsystem sein.

00:23:06: natürlich Es gibt immer Kontexte, wo man beispielsweise KI-Nutzung komplett verbieten muss.

00:23:12: Aber wir gehen ja von dem Normalfall hier aus und im Normalfall sollte definierter Weg zur Nutzung von KI eröffnet werden.

00:23:21: Das wird im Zweifelsfall nicht sein dass jeder im Unternehmen einen ChatGPT Abo bekommt aber etwas was eben KI Funktionalitäten bereitstellt vielleicht ein Open Source Chatbot wo ChatGPP drunter hängt ohne jetzt zu technisch zu werden.

00:23:40: Und dann kann man eben in diesem Kontext seine KI nutzen, kann da die Nachfragen stellen, kann im Zweifelsfall auch vertraulichere Informationen in die KI geben.

00:23:49: Vielleicht wenn der Bedarf so hoch ist betreibt das Unternehmen auch selbstständige Modelle und schafft sich IT-Infrastruktur an um lokale KI-Modelle zu hosten und für die Mitarbeitenden bereitzustellen.

00:24:04: Dann hat man natürlich nochmal ein Deut... die breiteres Nutzungsportfolio, was man da anbieten kann für die Mitarbeitenden.

00:24:12: Ich find das ohnehin sehr schockierend, was Menschen alles in die KI eingeben?

00:24:18: Also selbst Dinge, die du eigentlich googeln könntest.

00:24:20: und wir hatten ja vorhin kurz darüber gesprochen wie nehme ich Mitarbeiter in die Pflicht oder wie nehm ich sie mit?

00:24:25: und wir haben auch darüber gesprochen dass das ja auch privat sehr stark eingesetzt wird.

00:24:30: so ist meine Wahrnehmung zumindest aus meinem Umfeld.

00:24:33: Ich denke bei dir ist es wahrscheinlich ähnlich.

00:24:36: Da merkt man aber wieder, wie viel so der Null-Acht-Fünfzehn-Bürger oder wie wenig der NULL-Ach-Fünfzehnbürger ohne jetzt nicht despektierlich gemeint.

00:24:44: Wie wenig diese Menschen über KI wissen?

00:24:47: Bei Dingen die ich googeln kann als kleiner Disclaimer am Rande dieser Folge bitte Google sie!

00:24:53: Weil der Energieverbrauch bei einer kleinen Google Anfrage ist wesentlich geringer, als wenn ich denke, dass die gleiche Suchanfrage in einen KI-Chutboard

00:25:02: eingebe.".

00:25:04: Was ja eigentlich super überraschend ist, wenn man drüber nachdenkt und auch die Diskussion der letzten fünf bis zehn Jahre hier in Deutschland mitbekommen hat.

00:25:11: Wie hoch der Datenschutz immer gehangen wird, wie sehr man darauf achtet ... Wir kennen alle das Bild, sie filmen mir ins Gesicht oder das Video, dass es Datenschutzen sind.

00:25:23: Das sind Themen, die uns jeden Tag überall begegnen.

00:25:28: Und dann hat man vor drei Jahren scheinbar so diesen Schalter im Kopf umgelegt und die Leute pumpen, ohne drüber nachzudenken.

00:25:35: Alles was sie zwischen den Finger bekommen.

00:25:36: Weil's gemütlicher ist?

00:25:37: Ja klar!

00:25:39: Wir kennen es ja auch aus eigenem Erleben.

00:25:40: Natürlich ist das super irgendein PDF da mal reinzustellen und konkrete Fragestellungen der KI mitzugeben anstatt sich selber da die dreißig Seiten durchzunesen.

00:25:52: In der Zeit, in der ich mir da spare kann ich eben auch andere Dinge machen Aber das greift dann halt oft zu kurz und das mag dann ein kurzfristiger Effizienzgewinn für mich sein, aber auf so eine lange Sicht gesehen.

00:26:07: Gerade wenn ich vor allen Dingen beruflich ist mit Privatem über den selben Account miteinander vermische oder... Ich gebe vielleicht höchstpersönliche Informationen mit.

00:26:19: Vielleicht fühle ich mich an einem Tag mental nicht gut Und versuch das mal mit ChatGPT zu diskutieren, um da einfach auch mal positives Feedback zu bekommen oder vielleicht einen Weg aus meiner persönlichen Situation herauszufinden.

00:26:34: Das sammelt sich alles an in den Accounts und... Und

00:26:37: es fließt dann auch in die Antwort für die beruflichen Anfragen

00:26:40: mit?

00:26:40: Ja!

00:26:42: Wir kennen das ja selber auch aus Kundenkontexten.

00:26:45: Da werden dann seitenweise Dokumente geschrieben die dann natürlich auch so einen gewissen Touch bekommen können, weil das wie du schon sagst immer mit einfließt.

00:26:55: Man kann es ja oft in den Accounts nachvollziehen, dass da Memory-Dateien überein angelegt werden und wenn man da bestimmte psychische Dispositionen hat und das fließt auf eine wie auch immer geartete Art und Weise in meine Arbeitsergebnisse ein, dann braucht man sich nicht weiter auszumalen was das im Zweifelsfall für Konsequenzen hat.

00:27:17: Und da sind wir wieder beim Thema Risiken.

00:27:19: und wie gesagt, um das auch an der Stelle zu betonen.

00:27:21: Wir wollen das Thema per se nicht verteufeln sondern wir wollen ermöglichen dass man eine realistische Sicht hat abwägen kann.

00:27:28: das sind Chancen das sind Risiken weil wie alles hat auch diese Medaillere zwei Seiten, KI hat super viele Vorteile, KI bringt aber auch einiges an Risiken mit sich und umso wichtiger war es, dass du heute da warst um uns einen kleinen Insight zu geben.

00:27:43: Was sind die Risiken von Schatten-KI?

00:27:45: Wie gehe ich damit in einem Unternehmen um, wie gehe ich als Privatperson damit um.

00:27:49: Weil KI zu regulieren heißt nicht dass sich KI gar nicht mehr zugänglich machen möchte für Menschen oder auch für Mitarbeiter an meinem Unternehmen sondern ich möchte Effizienz bringen.

00:28:01: Ich möchte ihnen Dinge ermöglichen in ihrem Berufsalltag aber ich möchte es sicher ermögliche heißt auch für euch da draußen nicht, dass ihr das gar nicht einsetzen dürft.

00:28:12: Sondern, dass Ihr das pflichtbewusst einsetzen

00:28:15: sollt.".

00:28:16: Genau!

00:28:16: Es geht am Ende immer um informierte Entscheidungen und Informierter Entscheidungen als Unternehmen, dass ich weiß wo der Bedarf liegt, wo die Wünsche meiner Mitarbeitenden liegen, wo aber auch die Grenzen dessen liegen was sich ermöglichen kann?

00:28:29: Aber auch informierte Entscheidung als Nutzer zu wissen, was ich eingeben kann.

00:28:33: Was die Konsequenzen dessen sind wenn ich eben Informationen in die KI eingebe und dass sich das Ganze eben mit einer gewissen Portion Skepsis dann auch weiter verarbeite.

00:28:42: Ein super Schlusswort!

00:28:43: Ich glaube wir zwei könnten eigentlich noch eine Stunde weiter reden über dieses Thema.

00:28:48: vielleicht kommst du einfach nochmal an dem Podcast und dann finden wir das Wort.

00:28:52: Ich finde es super spannend.

00:28:53: Ich bin sehr dankbar, dass du heute da warst Und wenn ihr auch so viel Interesse habt an dem Thema wie Benjamin und ich, dann schaut doch gerne in unsere Show-Notes.

00:29:01: Dort findet ihr super spannende weiterführende Informationen die teilweise auch aus Benjamins Feder stammen.

00:29:07: also schaut da gerne vorbei und hinterlasst uns auch gerne einen Kommentar.

00:29:11: schreibt uns gerne eure Erfahrungen im Umgang mit KI im privaten oder auch im Unternehmen und lasst uns gerne wissen wie ihr diese Folge fandet.

00:29:18: Danke dass sie wieder dabei wart und ich freue mich auf's nächste Mal.

00:29:26: Der Wegweiser für Digitalisierung und Sicherheit, präsentiert von HiSolutions.

00:29:32: Hat dir diese Episode

00:29:33: gefallen?

00:29:34: Dann abonniere den Podcast und empfehle unsere

00:29:36: Folgen weiter!