Jedná se o oblast zabývající se vytvářením AI systémů, které jsou bezpečné, spolehlivé a chrání lidské hodnoty. Cílem AI security je zajistit, aby AI systémy nezpůsobovaly škodu a byly schopné fungovat v souladu s představami lidstva o bezpečnosti a etice.
Bezpečnost umělé inteligence zahrnuje mnoho různých aspektů, jako je ochrana soukromí, bezpečnost dat, kybernetická bezpečnost a zajištění, aby AI systémy nebyly zneužity pro účely, které by mohly být nebezpečné pro lidstvo. Významným tématem v AI security je také bezpečnost autonomních systémů, jako jsou autonomní vozidla a roboti, kteří mohou představovat riziko pro lidské bezpečí, pokud nebudou řádně navrženi a otestováni.
Bezpečnost umělé inteligence je klíčovým tématem, protože pokud nebudou AI systémy navrženy a provozovány v souladu s lidskými hodnotami, mohou mít nežádoucí následky pro lidskou společnost. Proto je důležité, aby vývojáři AI systémů a další odborníci v této oblasti brali bezpečnost AI jako prioritu při navrhování a vývoji nových technologií.