";123 Array
(
    [NAME] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
    [~NAME] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
    [TAGS] => искусственный интеллект
    [~TAGS] => искусственный интеллект
    [PREVIEW_TEXT] => 

	 Компания Google сообщила, что приостановила возможность генерации изображения людей в нейросети Gemini. Причиной принятия такого решения стала очень странная форма толерантности, которую проявлял искусственный интеллект.


    [~PREVIEW_TEXT] => 

	 Компания Google сообщила, что приостановила возможность генерации изображения людей в нейросети Gemini. Причиной принятия такого решения стала очень странная форма толерантности, которую проявлял искусственный интеллект.


    [PREVIEW_PICTURE] => Array
        (
            [ID] => 929
            [TIMESTAMP_X] => 14.03.2024 17:59:53
            [MODULE_ID] => iblock
            [HEIGHT] => 574
            [WIDTH] => 1024
            [FILE_SIZE] => 55951
            [CONTENT_TYPE] => image/jpeg
            [SUBDIR] => iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w
            [FILE_NAME] => kandinskyGEMINI.jpg
            [ORIGINAL_NAME] => kandinskyGEMINI.jpg
            [DESCRIPTION] => 
            [HANDLER_ID] => 
            [EXTERNAL_ID] => 9f367714fbc7fc768498177c5c2f9bed
            [VERSION_ORIGINAL_ID] => 
            [META] => 
            [SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
            [UNSAFE_SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
            [SAFE_SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
            [ALT] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
        )

    [~PREVIEW_PICTURE] => 929
    [DETAIL_TEXT] => 

	 Пользователи Gemini заметили, что нейросеть корректно генерирует изображения азиатов, чернокожих и латиноамериканцев, однако отказывается отвечать на запросы, касающиеся белых людей. Кроме того, ИИ игнорирует исторический контекст, создавая чернокожих солдат нацистской Германии или папу римского женского пола.




	 В Google объяснили, что ошибка связана со специальными настройками, которые, с одной стороны, запрещают нейросети создавать оскорбительные изображения, картинки, содержащие сцены насилия и секса, а также портреты реально существующих людей, а с другой обязывают ИИ представлять на изображениях расовое разнообразие. Последняя не учитывала исторический контекст, а первая привела к тому, что Gemini со временем начала воспринимать некоторые рядовые запросы как потенциально чувствительные или оскорбительные.








	 В результате модель начала действовать либо слишком либерально, либо слишком консервативно. 





	 Специалисты Google планируют провести масштабное тестирование генеративных способностей ИИ. Они отметили, что на нейросеть оказывает большое влияние информационный фон. Из-за этого могут возникать «галлюцинации».


 Ранее «Мир робототехники» писал,
что большие языковые модели (LLM) получают больше возможностей каждый день. В
связи с этим в экспертном сообществе все чаще звучит вопрос о том, как эти
нейросети могут повлиять на кибербезопасность. Ученые из Университета Иллинойса
в Урбана-Шампейн провели исследование, в рамках которого показали, могут ли LLM
в автономном режиме взламывать сайты, выполняя сложные задачи, например слепое
извлечение схемы базы данных и SQL-инъекции.
    [~DETAIL_TEXT] => 

	 Пользователи Gemini заметили, что нейросеть корректно генерирует изображения азиатов, чернокожих и латиноамериканцев, однако отказывается отвечать на запросы, касающиеся белых людей. Кроме того, ИИ игнорирует исторический контекст, создавая чернокожих солдат нацистской Германии или папу римского женского пола.




	 В Google объяснили, что ошибка связана со специальными настройками, которые, с одной стороны, запрещают нейросети создавать оскорбительные изображения, картинки, содержащие сцены насилия и секса, а также портреты реально существующих людей, а с другой обязывают ИИ представлять на изображениях расовое разнообразие. Последняя не учитывала исторический контекст, а первая привела к тому, что Gemini со временем начала воспринимать некоторые рядовые запросы как потенциально чувствительные или оскорбительные.








	 В результате модель начала действовать либо слишком либерально, либо слишком консервативно. 





	 Специалисты Google планируют провести масштабное тестирование генеративных способностей ИИ. Они отметили, что на нейросеть оказывает большое влияние информационный фон. Из-за этого могут возникать «галлюцинации».


 Ранее «Мир робототехники» писал,
что большие языковые модели (LLM) получают больше возможностей каждый день. В
связи с этим в экспертном сообществе все чаще звучит вопрос о том, как эти
нейросети могут повлиять на кибербезопасность. Ученые из Университета Иллинойса
в Урбана-Шампейн провели исследование, в рамках которого показали, могут ли LLM
в автономном режиме взламывать сайты, выполняя сложные задачи, например слепое
извлечение схемы базы данных и SQL-инъекции.
    [DETAIL_PICTURE] => Array
        (
            [ID] => 930
            [TIMESTAMP_X] => 14.03.2024 17:59:53
            [MODULE_ID] => iblock
            [HEIGHT] => 898
            [WIDTH] => 1600
            [FILE_SIZE] => 57779
            [CONTENT_TYPE] => image/jpeg
            [SUBDIR] => iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a
            [FILE_NAME] => kandinskyGEMINI.jpg
            [ORIGINAL_NAME] => kandinskyGEMINI.jpg
            [DESCRIPTION] => 
            [HANDLER_ID] => 
            [EXTERNAL_ID] => 15bd03f7cd4a063fbbed08507e94ff6a
            [VERSION_ORIGINAL_ID] => 
            [META] => 
            [SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
            [UNSAFE_SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
            [SAFE_SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
            [ALT] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
        )

    [~DETAIL_PICTURE] => 930
    [DATE_ACTIVE_FROM] => 28.02.2024
    [~DATE_ACTIVE_FROM] => 28.02.2024
    [ID] => 406
    [~ID] => 406
    [IBLOCK_ID] => 1
    [~IBLOCK_ID] => 1
    [IBLOCK_SECTION_ID] => 9
    [~IBLOCK_SECTION_ID] => 9
    [DETAIL_TEXT_TYPE] => html
    [~DETAIL_TEXT_TYPE] => html
    [PREVIEW_TEXT_TYPE] => html
    [~PREVIEW_TEXT_TYPE] => html
    [TIMESTAMP_X] => 14.03.2024 17:59:53
    [~TIMESTAMP_X] => 14.03.2024 17:59:53
    [ACTIVE_FROM_X] => 2024-02-28 00:00:00
    [~ACTIVE_FROM_X] => 2024-02-28 00:00:00
    [ACTIVE_FROM] => 28.02.2024
    [~ACTIVE_FROM] => 28.02.2024
    [LIST_PAGE_URL] => /
    [~LIST_PAGE_URL] => /
    [DETAIL_PAGE_URL] => /it-ai/google-zapretil-gemini-generirovat-izobrazheniya-lyudey-iz-za-rasistskoy-tolerantnosti/
    [~DETAIL_PAGE_URL] => /it-ai/google-zapretil-gemini-generirovat-izobrazheniya-lyudey-iz-za-rasistskoy-tolerantnosti/
    [LANG_DIR] => /
    [~LANG_DIR] => /
    [CODE] => google-zapretil-gemini-generirovat-izobrazheniya-lyudey-iz-za-rasistskoy-tolerantnosti
    [~CODE] => google-zapretil-gemini-generirovat-izobrazheniya-lyudey-iz-za-rasistskoy-tolerantnosti
    [EXTERNAL_ID] => 406
    [~EXTERNAL_ID] => 406
    [IBLOCK_TYPE_ID] => news
    [~IBLOCK_TYPE_ID] => news
    [IBLOCK_CODE] => news_s1
    [~IBLOCK_CODE] => news_s1
    [IBLOCK_EXTERNAL_ID] => furniture_news_s1
    [~IBLOCK_EXTERNAL_ID] => furniture_news_s1
    [LID] => s1
    [~LID] => s1
    [NAV_RESULT] => 
    [NAV_CACHED_DATA] => 
    [DISPLAY_ACTIVE_FROM] => 28.02.2024
    [IPROPERTY_VALUES] => Array
        (
            [SECTION_META_TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [ELEMENT_META_TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
        )

    [FIELDS] => Array
        (
            [NAME] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [TAGS] => искусственный интеллект
            [PREVIEW_TEXT] => 

	 Компания Google сообщила, что приостановила возможность генерации изображения людей в нейросети Gemini. Причиной принятия такого решения стала очень странная форма толерантности, которую проявлял искусственный интеллект.


            [PREVIEW_PICTURE] => Array
                (
                    [ID] => 929
                    [TIMESTAMP_X] => 14.03.2024 17:59:53
                    [MODULE_ID] => iblock
                    [HEIGHT] => 574
                    [WIDTH] => 1024
                    [FILE_SIZE] => 55951
                    [CONTENT_TYPE] => image/jpeg
                    [SUBDIR] => iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w
                    [FILE_NAME] => kandinskyGEMINI.jpg
                    [ORIGINAL_NAME] => kandinskyGEMINI.jpg
                    [DESCRIPTION] => 
                    [HANDLER_ID] => 
                    [EXTERNAL_ID] => 9f367714fbc7fc768498177c5c2f9bed
                    [VERSION_ORIGINAL_ID] => 
                    [META] => 
                    [SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
                    [UNSAFE_SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
                    [SAFE_SRC] => /upload/iblock/a72/7owvpz8bwditu9r80wxvyyogw0o69p6w/kandinskyGEMINI.jpg
                    [ALT] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
                    [TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
                )

            [DETAIL_TEXT] => 

	 Пользователи Gemini заметили, что нейросеть корректно генерирует изображения азиатов, чернокожих и латиноамериканцев, однако отказывается отвечать на запросы, касающиеся белых людей. Кроме того, ИИ игнорирует исторический контекст, создавая чернокожих солдат нацистской Германии или папу римского женского пола.




	 В Google объяснили, что ошибка связана со специальными настройками, которые, с одной стороны, запрещают нейросети создавать оскорбительные изображения, картинки, содержащие сцены насилия и секса, а также портреты реально существующих людей, а с другой обязывают ИИ представлять на изображениях расовое разнообразие. Последняя не учитывала исторический контекст, а первая привела к тому, что Gemini со временем начала воспринимать некоторые рядовые запросы как потенциально чувствительные или оскорбительные.








	 В результате модель начала действовать либо слишком либерально, либо слишком консервативно. 





	 Специалисты Google планируют провести масштабное тестирование генеративных способностей ИИ. Они отметили, что на нейросеть оказывает большое влияние информационный фон. Из-за этого могут возникать «галлюцинации».


 Ранее «Мир робототехники» писал,
что большие языковые модели (LLM) получают больше возможностей каждый день. В
связи с этим в экспертном сообществе все чаще звучит вопрос о том, как эти
нейросети могут повлиять на кибербезопасность. Ученые из Университета Иллинойса
в Урбана-Шампейн провели исследование, в рамках которого показали, могут ли LLM
в автономном режиме взламывать сайты, выполняя сложные задачи, например слепое
извлечение схемы базы данных и SQL-инъекции.
            [DETAIL_PICTURE] => Array
                (
                    [ID] => 930
                    [TIMESTAMP_X] => 14.03.2024 17:59:53
                    [MODULE_ID] => iblock
                    [HEIGHT] => 898
                    [WIDTH] => 1600
                    [FILE_SIZE] => 57779
                    [CONTENT_TYPE] => image/jpeg
                    [SUBDIR] => iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a
                    [FILE_NAME] => kandinskyGEMINI.jpg
                    [ORIGINAL_NAME] => kandinskyGEMINI.jpg
                    [DESCRIPTION] => 
                    [HANDLER_ID] => 
                    [EXTERNAL_ID] => 15bd03f7cd4a063fbbed08507e94ff6a
                    [VERSION_ORIGINAL_ID] => 
                    [META] => 
                    [SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
                    [UNSAFE_SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
                    [SAFE_SRC] => /upload/iblock/1a0/we3vtpt3uu74kbc2r61ihr4314k4qc2a/kandinskyGEMINI.jpg
                    [ALT] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
                    [TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
                )

            [DATE_ACTIVE_FROM] => 28.02.2024
        )

    [PROPERTIES] => Array
        (
            [AUTHOR] => Array
                (
                    [ID] => 9
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор статьи
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AUTHOR
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => Автор статьи
                    [~DEFAULT_VALUE] => 
                )

            [AU_PHOTO] => Array
                (
                    [ID] => 10
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор фото 
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AU_PHOTO
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1450
                    [VALUE] => Kandinsky
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Kandinsky
                    [~DESCRIPTION] => 
                    [~NAME] => Автор фото 
                    [~DEFAULT_VALUE] => 
                )

            [IMG_MAIN] => Array
                (
                    [ID] => 11
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Картинка для Главной
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => IMG_MAIN
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => F
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1451
                    [VALUE] => 931
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => 931
                    [~DESCRIPTION] => 
                    [~NAME] => Картинка для Главной
                    [~DEFAULT_VALUE] => 
                )

            [MAIN_THEME] => Array
                (
                    [ID] => 12
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Главная тема
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => MAIN_THEME
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => L
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [VALUE_ENUM_ID] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => Главная тема
                    [~DEFAULT_VALUE] => 
                )

            [MAIN_SECT] => Array
                (
                    [ID] => 13
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => В своём разделе
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => MAIN_SECT
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => L
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [VALUE_ENUM_ID] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => В своём разделе
                    [~DEFAULT_VALUE] => 
                )

            [VIDEO_YOU] => Array
                (
                    [ID] => 14
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Видео youtobe
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => VIDEO_YOU
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => Видео youtobe
                    [~DEFAULT_VALUE] => 
                )

        )

    [DISPLAY_PROPERTIES] => Array
        (
            [AU_PHOTO] => Array
                (
                    [ID] => 10
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор фото 
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AU_PHOTO
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1450
                    [VALUE] => Kandinsky
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Kandinsky
                    [~DESCRIPTION] => 
                    [~NAME] => Автор фото 
                    [~DEFAULT_VALUE] => 
                    [DISPLAY_VALUE] => Kandinsky
                )

        )

    [IBLOCK] => Array
        (
            [ID] => 1
            [~ID] => 1
            [TIMESTAMP_X] => 16.04.2024 13:42:26
            [~TIMESTAMP_X] => 16.04.2024 13:42:26
            [IBLOCK_TYPE_ID] => news
            [~IBLOCK_TYPE_ID] => news
            [LID] => s1
            [~LID] => s1
            [CODE] => news_s1
            [~CODE] => news_s1
            [API_CODE] => 
            [~API_CODE] => 
            [REST_ON] => N
            [~REST_ON] => N
            [NAME] => Статьи
            [~NAME] => Статьи
            [ACTIVE] => Y
            [~ACTIVE] => Y
            [SORT] => 500
            [~SORT] => 500
            [LIST_PAGE_URL] => 
            [~LIST_PAGE_URL] => 
            [DETAIL_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#/#ELEMENT_CODE#/
            [~DETAIL_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#/#ELEMENT_CODE#/
            [SECTION_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#
            [~SECTION_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#
            [CANONICAL_PAGE_URL] => 
            [~CANONICAL_PAGE_URL] => 
            [PICTURE] => 
            [~PICTURE] => 
            [DESCRIPTION] => 
            [~DESCRIPTION] => 
            [DESCRIPTION_TYPE] => text
            [~DESCRIPTION_TYPE] => text
            [RSS_TTL] => 24
            [~RSS_TTL] => 24
            [RSS_ACTIVE] => Y
            [~RSS_ACTIVE] => Y
            [RSS_FILE_ACTIVE] => N
            [~RSS_FILE_ACTIVE] => N
            [RSS_FILE_LIMIT] => 
            [~RSS_FILE_LIMIT] => 
            [RSS_FILE_DAYS] => 
            [~RSS_FILE_DAYS] => 
            [RSS_YANDEX_ACTIVE] => N
            [~RSS_YANDEX_ACTIVE] => N
            [XML_ID] => furniture_news_s1
            [~XML_ID] => furniture_news_s1
            [TMP_ID] => 6cfbdd5e02a2f38f8bf51afa68b2792c
            [~TMP_ID] => 6cfbdd5e02a2f38f8bf51afa68b2792c
            [INDEX_ELEMENT] => Y
            [~INDEX_ELEMENT] => Y
            [INDEX_SECTION] => Y
            [~INDEX_SECTION] => Y
            [WORKFLOW] => N
            [~WORKFLOW] => N
            [BIZPROC] => N
            [~BIZPROC] => N
            [SECTION_CHOOSER] => L
            [~SECTION_CHOOSER] => L
            [LIST_MODE] => 
            [~LIST_MODE] => 
            [RIGHTS_MODE] => S
            [~RIGHTS_MODE] => S
            [SECTION_PROPERTY] => N
            [~SECTION_PROPERTY] => N
            [PROPERTY_INDEX] => N
            [~PROPERTY_INDEX] => N
            [VERSION] => 1
            [~VERSION] => 1
            [LAST_CONV_ELEMENT] => 0
            [~LAST_CONV_ELEMENT] => 0
            [SOCNET_GROUP_ID] => 
            [~SOCNET_GROUP_ID] => 
            [EDIT_FILE_BEFORE] => 
            [~EDIT_FILE_BEFORE] => 
            [EDIT_FILE_AFTER] => 
            [~EDIT_FILE_AFTER] => 
            [SECTIONS_NAME] => Разделы
            [~SECTIONS_NAME] => Разделы
            [SECTION_NAME] => Раздел
            [~SECTION_NAME] => Раздел
            [ELEMENTS_NAME] => Статьи
            [~ELEMENTS_NAME] => Статьи
            [ELEMENT_NAME] => Статья
            [~ELEMENT_NAME] => Статья
            [EXTERNAL_ID] => furniture_news_s1
            [~EXTERNAL_ID] => furniture_news_s1
            [LANG_DIR] => /
            [~LANG_DIR] => /
            [SERVER_NAME] => roboticsworld.ru
            [~SERVER_NAME] => roboticsworld.ru
        )

    [SECTION] => Array
        (
            [PATH] => Array
                (
                    [0] => Array
                        (
                            [ID] => 9
                            [~ID] => 9
                            [CODE] => it-ai
                            [~CODE] => it-ai
                            [XML_ID] => 
                            [~XML_ID] => 
                            [EXTERNAL_ID] => 
                            [~EXTERNAL_ID] => 
                            [IBLOCK_ID] => 1
                            [~IBLOCK_ID] => 1
                            [IBLOCK_SECTION_ID] => 
                            [~IBLOCK_SECTION_ID] => 
                            [SORT] => 300
                            [~SORT] => 300
                            [NAME] => IT/AI
                            [~NAME] => IT/AI
                            [ACTIVE] => Y
                            [~ACTIVE] => Y
                            [DEPTH_LEVEL] => 1
                            [~DEPTH_LEVEL] => 1
                            [SECTION_PAGE_URL] => /it-ai
                            [~SECTION_PAGE_URL] => /it-ai
                            [IBLOCK_TYPE_ID] => news
                            [~IBLOCK_TYPE_ID] => news
                            [IBLOCK_CODE] => news_s1
                            [~IBLOCK_CODE] => news_s1
                            [IBLOCK_EXTERNAL_ID] => furniture_news_s1
                            [~IBLOCK_EXTERNAL_ID] => furniture_news_s1
                            [GLOBAL_ACTIVE] => Y
                            [~GLOBAL_ACTIVE] => Y
                            [IPROPERTY_VALUES] => Array
                                (
                                    [SECTION_META_TITLE] => IT/AI
                                    [ELEMENT_META_TITLE] => IT/AI
                                )

                        )

                )

        )

    [SECTION_URL] => /it-ai
    [META_TAGS] => Array
        (
            [TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [BROWSER_TITLE] => Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности
            [KEYWORDS] => 
            [DESCRIPTION] => 
        )

)
  • Главная
  • IT/AI
  • Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности

Google запретил Gemini генерировать изображения людей из-за «расистской» толерантности

Компания Google сообщила, что приостановила возможность генерации изображения людей в нейросети Gemini. Причиной принятия такого решения стала очень странная форма толерантности, которую проявлял искусственный интеллект.

Пользователи Gemini заметили, что нейросеть корректно генерирует изображения азиатов, чернокожих и латиноамериканцев, однако отказывается отвечать на запросы, касающиеся белых людей. Кроме того, ИИ игнорирует исторический контекст, создавая чернокожих солдат нацистской Германии или папу римского женского пола.

В Google объяснили, что ошибка связана со специальными настройками, которые, с одной стороны, запрещают нейросети создавать оскорбительные изображения, картинки, содержащие сцены насилия и секса, а также портреты реально существующих людей, а с другой обязывают ИИ представлять на изображениях расовое разнообразие. Последняя не учитывала исторический контекст, а первая привела к тому, что Gemini со временем начала воспринимать некоторые рядовые запросы как потенциально чувствительные или оскорбительные.

В результате модель начала действовать либо слишком либерально, либо слишком консервативно.

Специалисты Google планируют провести масштабное тестирование генеративных способностей ИИ. Они отметили, что на нейросеть оказывает большое влияние информационный фон. Из-за этого могут возникать «галлюцинации».

Ранее «Мир робототехники» писал, что большие языковые модели (LLM) получают больше возможностей каждый день. В связи с этим в экспертном сообществе все чаще звучит вопрос о том, как эти нейросети могут повлиять на кибербезопасность. Ученые из Университета Иллинойса в Урбана-Шампейн провели исследование, в рамках которого показали, могут ли LLM в автономном режиме взламывать сайты, выполняя сложные задачи, например слепое извлечение схемы базы данных и SQL-инъекции.
#искусственный интеллект
28.02.2024
Фото: Kandinsky

Мы рекомендуем: