Прочёл новость, что "исследователи" в очередной раз заставили нейросети выдать непотребный контент. В свою очередь владельцы коммерческих сетей в очередной раз отрапортовали что дыру прикрыли.
По мне так максимально тупая ситуация. Тут либо нужно резать все эти нейросети, чтоб у них не было никакого зачатка образного мышления, но тогда они нахрен не нужны. Либо доучивать нейросети до состояния, когда они будут рефлексировать над собственным ответом до того, как выдать его кожаному мешку. Этож нейросети́ нужно будет подобие зеркальных нейронов. И она из очень умного аутиста превратится в очень умного эмпата, со своим целеполаганием (не навреди).
Но это всё так, мои домыслы и не более.
AI researchers say they’ve found a way to jailbreak Bard and ChatGPT
Carnegie Mellon University and AI center researchers have discovered vulnerabilities in AI chatbots that could be exploited to generate harmful and dangerous content.Martin Young (Cointelegraph)
нравится это
VladlenO 🐳💨
в ответ на ХаББыватель • • •