Bývalý hlavní vědec OpenAI zakládá novou firmu na bezpečnost umělé inteligence

Spoluzakldatel OpenAI a její bývalý hlavní vědec Ilya Sutskever zakládá novou společnost zaměřenou na AI a bezpečnost. Napsal to server The Verge.

Startup Safe Superintelligence Inc. (SSI) má vytvořit bezpečný a výkonný systém umělé inteligence, který bude upřednostňovat bezpečnost před „komerčním tlakem“. „Oznámení popisuje SSI jako startup , který ‚přistupuje k bezpečnosti a schopnostem v tandemu‘, což společnosti umožňuje rychle posouvat svůj systém AI a přitom stále upřednostňovat bezpečnost. Upozorňuje také na extrémní tlak, kterému týmy umělé inteligence ve společnostech jako OpenAI, Google a Microsoft často čelí,“ napsal web.

Zároveň připomněl, že loni vedl Sutskever snahu o sesazení generálního ředitele OpenAI Sama Altmana. Krátce po jeho odchodu oznámil výzkumník AI Jan Leike svou rezignaci z firmy s odkazem na bezpečnostní procesy, které ustoupily do pozadí lesklých produktů. Odešla i výzkumnice Gretchen Krueger, přičemž opět zmínila bezpečnostní obavy.