Путь России – вперёд, к социализму! | На повестке дня человечества — социализм | Программа КПРФ

Вернуться   Форум сторонников КПРФ : KPRF.ORG : Политический форум : Выборы в России > Форумы Коммунистической Партии > Акции протеста в России

Акции протеста в России Информация об акциях протеста в России

Ответ
 
Опции темы
Старый 26.10.2016, 21:42   #11
Ботвинк
Местный
 
Аватар для Ботвинк
 
Регистрация: 22.12.2010
Сообщений: 1,663
Репутация: 1805
По умолчанию

Мнение эксперта: ИИ — страшилка 21 века
Цитата:
Новый план Элона Маска пересадить нас всех в самоуправляемый транспорт говорит о его твердой вере в искусственный интеллект, который гарантирует, что его «Теслы» будут умными и смогут реагировать на различные дорожные ситуации в режиме реального времени. ИИ способен на крайне интересные вещи. На прошлой неделе, например, создатели компьютерной программы AlphaGo сообщили, что их программное обеспечение научилось ориентироваться в сложной системе лондонского метрополитена как у себя дома.

И все же ИИ должен пройти долгий путь, прежде чем люди начнут переживать о переходе мира под полное управление машин, считает Орен Этциони, компьютерный ученый, который провел последние несколько десятилетий в попытке решить фундаментальные проблемы искусственного интеллекта. В настоящее время Этциони является главным исполнительным директором Алленовского института искусственного интеллекта (AI2), организации, которую соучредитель Microsoft Пол Аллен сформировал в 2014 году. С ее помощью он планировал сосредоточиться на потенциальных выгодах ИИ — и развеять домыслы, которые распространяет Голливуд и другие ученые, на тему угроз человеческой расе.
Собственные проекты AI2 не особо впечатляют — среди них поисковая система на основе ИИ для научных исследований Semantic Scholar, для примера — но посвящены таким решениям в области ИИ, как рассуждения, тем самым двигают всю область вперед.
Журнал Scientific American взял у Этциони интервью на недавней конференции, посвященной ИИ, в Нью-Йорке, где он выразил озабоченность по поводу того, что компании преувеличивают текущие возможности этой технологии, в частности и технику машинного обучения, известного как глубокое обучение. Этот процесс пропускает большие наборы данных через сети, имитируя нейронные сети человеческого мозга, и позволяет компьютерам самостоятельно обучаться решению специфических проблем, например, распознаванию изображений или идентификации конкретных объектов на фотографиях. Этциони также рассказал, почему 10-летний ребенок умнее программы AlphaGo и почему необходимо будет разработать программы искусственного интеллекта по типу «хранителей», которые не позволят другим программам ИИ стать опасными.
Наблюдается ли раскол среди исследователей ИИ на тему лучшего пути развития технологии?
Некоторые люди прыгают выше головы. Мы наблюдаем серьезный прогресс в таких областях, как распознавание речи, самоуправляемые автомобили (хоть и в слегка ограниченной форме) и, конечно, AlphaGo. Все эти технические достижения вполне реальны. Но как мы их интерпретируем? Глубокое обучение, очевидно, ценная технология, но чтобы создать искусственный интеллект, нам нужно решить множество других проблем, включая рассуждения (чтобы машина могла понимать, а не просто рассчитывать 2 + 2 = 4) и получение фоновых знаний, на основе которых машина могла бы создавать контекст. Понимание естественного языка — еще один пример. Даже если у нас есть AlphaGo, у нас нет программы, которая может прочитать и полностью понять абзац или даже просто предложение.
Говорят, что глубокое обучение — «лучшее, что у нас есть» в рамках ИИ. Не играет ли это против глубокого обучения?
Если у вас есть много данных, помеченных таким образом, что компьютер знает, что они означают, есть много вычислительной мощности и вы попытаетесь найти закономерности в этих данных, с глубоким обучением тягаться бесполезно. В случае того же AlphaGo, система обрабатывает 30 миллионов позиций и обучает программу ИИ правильно двигаться в разных ситуациях. Есть и другие сценарии — например, радиологические снимки — когда снимки помечаются как с опухолью и без, а программа глубокого обучения их перебирает и выявляет опухоли. С глубоким обучением можно делать много всяких интересных вещей, и да, это прорывная технология.
В чем же проблема?
Проблема в том, что в таких ситуациях нужно намного больше интеллекта, чем просто обученная программа. Представьте данные, которые доступны ученику в рамках стандартного теста вроде ЕГЭ или вступительных экзаменов в вуз. Нельзя изучить 30 миллионов предыдущих экзаменов, которые отмечены как «успешные» или «безуспешные», чтобы набрать высший балл. Это более сложный, интерактивный процесс обучения. Интеллект также включает обучение из беседы или в контексте, в процессе чтения книги. Но несмотря на все глубокое обучение, у нас нет программы, способной на подвиг 10-летнего, который может взять книгу, прочитать главу и ответить на вопросы, о чем эта книга.
Будет ли способность ИИ проходить стандартизованные тесты значительным прорывом в области технологий?
Мы фактически начали работать над этим в рамках исследовательской программы в Алленовском институте искусственного интеллекта. В прошлом году мы объявили приз в размере 50 000 долларов для всех, кто смог бы создать программное обеспечение на основе ИИ, способное пройти стандартный научный тест восьмиклассников. Более 780 команд со всего мира работали несколько месяцев над этим, но никто не смог набрать больше 60%. Это демонстрирует реалистичную и количественную оценку того, где мы находимся сегодня.
Как самым эффективным ИИ удается правильно отвечать на вопросы?
Все дело в языке. Наиболее успешные системы используют тщательно собранную информацию из научных текстов и других публичных ресурсов, которая затем просеивается с помощью тщательно настроенных информационно поисковых методов в поисках лучших ответов, желательно с несколькими вариантами. Например, что из этого будет лучшим проводником электричества: пластиковая ложка, деревянная вилка или железный поднос. Программы отлично разбираются в формулах и могут определить, что электричество и железо или проводимость и железо часто вместе встречаются во многих документах, чаще, чем пластик и проводимость, например. Поэтому иногда программы могут срезать путь и найти ответ. Почти так же, как дети делают логичные предположения. Но поскольку ни одна система не набрала больше 60%, эти программы используют статистику, чтобы делать логичные предположения, а не размышляют над вопросом.
Команда DeepMind, создавшая AlphaGo, имеет программу ИИ, которая выходит за рамки глубокого изучения, используя внешнюю систему памяти. Какое влияние их работа может оказать на создание более человекоподобного ИИ?
DeepMind остается лидером в продвижении глубоких нейронных сетей (ИИ, предназначенных для имитации человеческого мозга) вперед. Этот особый вклад является важным, но небольшим шагом в сторону рассуждения над тем, как факты связываются в структуру — например, на карте метро. Существующие символические программы могут с легкостью выполнять эту задачу, но важное достижение — заслуживающее публикации в Nature — в том, что нейронные сети обучаются выполнению задач по примерам. Это большой шаг для DeepMind, но маленький для человечества.
Можно ли использовать комбинацию подходов — глубокое обучение, машинное зрение и память, например — чтобы разработать более полный ИИ?
Это весьма привлекательная идея, и на самом деле много моих исследовательских работ, когда я был профессор Вашингтонского университета, было построено на использовании Интернета как базы данных для системы ИИ. Мы создали метод под названием open-information exctraction (извлечение открытой информации) и проиндексировали пять миллиардов веб-страничек, извлекая из них предложения и пытаясь создать на их основе карту знаний для машины. У той машины была сверхъестественная способность всасывать веб-странички, извлекая из них предложения. Но предложения — это текст или картинки. У нашего человеческого мозга есть уникальная способность — которую мы пока еще не взломали — превращать действие в рассуждение и наоборот. У нас есть универсальная база данных, которая формируется не на основе изображений и текста, а основе продуктов их обработки, осмысления. Такому машины пока не научились.
Вы говорите, что ИИ человеческого уровня появится не раньше чем через 25 лет. Почему именно человеческого уровня и почему именно эти временные рамки?
Истинное понимание естественного языка, широта и общность человеческого интеллекта, наша способность одновременно играть в го и переходить дорогу, а также готовить сносный омлет — это разнообразие является отличительной чертой человеческого интеллекта, а все, что мы сделали до сих пор, это разработали узконаправленные программы, которые могут делать что-то одно очень хорошо. Чтобы прийти к таким срокам, я общался с коллегами из Ассоциации по улучшению ИИ на тему того, когда у нас появится компьютерная система, которая будет умной, как человек, в более широком смысле. Никто не осмелился назвать цифру в 10 лет, 67% заявили, что через 25 лет и даже больше, а 25% сказали «никогда». Могут ли они ошибаться? Конечно. Но кому вы поверите: тем, кто в теме, или Голливуду?
Почему так много уважаемых ученых и инженеров делают из ИИ страшилку 21 века?
Мне трудно рассуждать о том, что движет Стивеном Хокингом или Элоном Маском, когда они так тревожно высказываются об ИИ. Можно предположить, что разговоры о черных дырах становятся скучными через некоторое время — эта тема развивается медленно. Единственное, что я хотел бы отметить, это когда Билл Гейтс — которого я безумно уважаю — говорит о том, что ИИ может стать злом или привести к катастрофическим последствиям, он всегда добавляет «в конечном счете» или «возможно». И с этим я согласен. Говоря о будущей тысяче лет, все может случиться. Но не думаю, что такая долгосрочная перспектива должна отвлекать нас от реальных проблем, которые мы встречаем на пути развития ИИ. Вот это «в конечном счете» или «возможно» часто теряется по дороге к головам людей.
Учитывая недостатки ИИ, стоит ли людям переживать о растущем интересе автопроизводителей к самоуправляемым автомобилям?
Я не большой поклонник самоуправляемых автомобилей, у которых нет руля или педали тормоза. С тем, что я знаю о компьютерном зрении и искусственном интеллекте, мне было бы очень некомфортно. Но я фанат комбинированной системы — которая сможет затормозить за вас, если вы уснете за рулем, например. Человек-водитель и автоматизированная система вкупе могут быть безопасней, чем по одиночке. Это не просто. Принять новые технологии и включить в жизнь и работу людей — не просто. Но я не верю, что отдать всю работу на откуп автомобилей — правильное решение.
Google, Facebook и другие известные технологические компании недавно запустили партнерство по искусственному интеллекту в интересах людей и общества, чтобы обозначить этические и социальные практики для исследований в области ИИ. Достаточно ли развита технология, чтобы такой подход имел смысл?
Когда ведущие технологические корпорации мира собираются вместе и думают о таких вещах, это очень хорошо. Я думаю, они делают это, опасаясь, что ИИ может захватить мир. Но большая часть этих страхов совершенно раздута. Даже если у нас будут самоуправляемые автомобили, ни один из них не решит вдруг взять приступом Белый дом. Риски, о которых говорит Элон Маск, от нас в десятках, если не в сотнях лет. Да, реальные опасения имеются: автоматизация, цифровые технологии и ИИ в целом меняют картину рабочих мест. Самоуправляемые автомобили и грузовики в итоге повысят безопасность передвижения, но также повлияют на экономику и людей, работающих в этой сфере. Этика тоже отдельный вопрос.
Как убедиться, что программа ИИ будет вести себя законно и этично?
Если вы банк, и у вас есть программное обеспечение, обрабатывающее кредиты, вы не можете за ним спрятаться. Сказать, что это сделал мой компьютер, не получится. Компьютерная программа может проявить дискриминационное поведение даже если не использует расовые или гендерные переменные. На этот случай должны быть «хранители» в виде ИИ-программ, которые отслеживают и предупреждают такое поведение среди других ИИ.
Существуют ли ИИ-хранители сегодня?
Мы призываем сообщество начать исследовать и создавать такие программы. Думаю, поначалу они будут весьма тривиальные, но это хоть что-то. Идея того, что ИИ-хранители могут противостоять злобному ИИ — образ которого так любят в голливудских фильмах — может найти поддержку среди людей.
Ботвинк вне форума   Ответить с цитированием
Старый 27.10.2016, 08:18   #12
Ярослав Стебко
Модератор
 
Регистрация: 14.04.2012
Адрес: Симферополь
Сообщений: 14,371
Репутация: 2419
По умолчанию

Цитата:
Сообщение от тин Посмотреть сообщение
Что такое искусственный интеллект и его место в будущем. Ведь это вопрос во многом философский.
Нас ожидает ЭЛЕКТРОННОЕ ОБЩЕСТВО.
Его основные принципы.
1. Стремительное вытеснение физического человеческого труда и замена его роботами.
2. Увеличение доли творческого и умственного труда. Думаю это как раз и будет область деятельности нового пролетариата.
Пока что китайцы и латиносы обходятся дешевле роботов и вот там есть развитый рабочий класс.
Ярослав Стебко вне форума   Ответить с цитированием
Старый 27.10.2016, 09:44   #13
Фактор В
Местный
 
Регистрация: 07.01.2013
Сообщений: 1,819
Репутация: 756
По умолчанию

Почему роботы должны научиться говорить нам «нет»

HAL 9000, разумный компьютер в фильме «Космическая Одиссея 2001 года», представил нам зловещий проблеск будущего, в котором машины, наделенные искусственным интеллектом, отвергают человеческую власть. Взяв под свой контроль космический аппарат и убив большую часть экипажа, HAL отвечает вернувшемуся астронавту в ответ на просьбу открыть дверь шлюза устрашающе спокойным голосом: «Прости, Дэйв, боюсь, я не могу этого сделать». В недавно вышедшем научно-фантастическом триллере «Из машины», соблазнительный гуманоид Ава вводит в заблуждение молодого парня, чтобы тот помог ей уничтожить ее создателя Натана. Ее манипуляции придают правдоподобия мрачному предсказанию Натана: «Однажды искусственные интеллекты будут смотреть на нас так же, как мы смотрим на ископаемые скелеты на равнинах Африки. Прямоходящие обезьяны, живущие в пыли с грубым языком и инструментами, обреченные на вымирание».

Хотя возможность апокалипсиса с участием роботов не прекращает волновать воображение людей, исследовательская группа Гордона Бриггса и Маттиаса Шейтца более оптимистично видит эффекты воздействия искусственного интеллекта на жизнь людей. Они, как и многие другие, предвидят быстро приближающееся будущее, в котором полезные и кооперативные роботы будут взаимодействовать с людьми в самых разнообразных условиях. Прототипы говорящих персональных роботизированных помощников, которые могут подключаться и взаимодействовать с персональными электронными устройства, управлять замками, освещением и термостатами в доме, даже читать сказки на ночь детям, уже существуют. Вскоре появятся и роботы, которые могут помочь с делами по дому и ухаживать за больными и престарелыми. В стадии разработки находятся мобильные промышленные андроиды, способные выполнять простые операции вроде погрузки, разгрузки и сортировки материалов. Автомобили с функциями автопилота уже прошли миллионы километров по дорогам США, а Daimler представил первый в мире автономный полугрузовик в Неваде в прошлом году.

В настоящее время сверхразумные машины, которые представляют угрозу для человечества, это меньшая из наших забот. Нас больше интересует, как помешать роботам или машинам с рудиментарными возможностями к языку и примитивным искусственным интеллектом не дать непреднамеренно причинить вред людям, имуществу, окружающей среде или самим себе.

Основной проблемой является склонность к ошибкам создателей и мастеров среди людей. Люди делают ошибки. Они могут давать ошибочные или запутанные инструкции, быть невнимательными или намеренно пытаться обмануть робота для достижения своих сомнительных целей. Из-за наших собственных недостатков, нам придется учить своих роботизированных помощников, когда и как они должны говорить «нет».

Пересмотр законов Азимова

Может показаться очевидным, что робот всегда должен делать то, что человек говорит ему делать. Писатель-фантаст воплотил эту идею в своих знаменитых законах робототехники. Но подумайте вот о чем: разумно ли всегда делать то, что говорят вам другие люди, не задумываясь о последствиях? Конечно нет. То же самое справедливо и для машин, особенно когда существует опасность того, что они будут интерпретировать команды человека слишком буквально или не задумываясь о последствиях.

Даже Азимов считал, что робот должен повиноваться своим хозяевам. Он допускал исключения в тех случаях, когда приказы вступали в противоречие с другими законами: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Азимов также полагал, что «робот должен защищать свое собственное существование», если в процессе этого не будет нанесен вред человеку или человеческому порядку. По мере того, как роботы и машины становятся все умнее и ценнее, и здравый смысл, и законы Азимова говорят, что они просто обязаны усомниться в приказе, если его исполнение может повлечь вред людям, роботам или окружающей среде, намеренно или по ошибке.

Представьте себе бытового робота, которому было поручено взять бутылку оливкового масла на кухне и принести к обеденному столу, чтобы заправить салат. Занятый своими делами владелец робота приказывает ему вылить масло, не понимая, что робот все еще находится на кухне. Робот выливает масло на раскаленную варочную поверхность и начинается пожар.

Представьте себе робота-сторожа, который сопровождает пожилую женщину в общественном парке. Женщина садится на скамейку и дремлет. Пока она спит, мимо проходит хулиган и приказывает роботу купить ему пиццу. Обязанный подчиняться команде человека, робот сразу же отправляется в поисках пиццерии, оставив свою пожилую даму одну.

Или представьте себе человека, который опаздывает на важную встречу холодным зимним утром. Он прыгает в свой автономный автомобиль и просит отвезти его в офис. Дорожный лед напрягает системы управления автомобилем и тот пытается компенсировать это, замедляясь до черепашьей скорости. Не обращая внимания на дорожные условия, погруженный в свои мысли человек требует от машины ехать быстрее. Автомобиль разгоняется, бьется о лед, выходит из-под контроля и вылетает на встречку.

Рассуждения роботов

В своей лаборатории Гордон Бриггс и Маттиас Шейтц программируют механизмы рассуждения реальных роботов, помогая им определиться, когда может быть небезопасно или неразумно выполнять команду человека. Роботы NAO, которых они используют в своих исследованиях, это 3-килограммовые 60-сантиметровые гуманоиды, оснащенные камерами и датчиками, позволяющими огибать препятствия и другие опасности. Управление роботами осуществляется при помощи специализированного программного обеспечения, предназначенного для повышения их способностей распознавания естественного языка и в целом искусственного интеллекта.

В основу исследования легли так называемые «условия счастья» — контекстуальные факторы, которые информируют, может и должен ли индивид что-то делать. Они создали перечень условий счастья, которые могли бы помочь роботу решить, будет ли он выполнять приказ человека или не будет: знаю ли я, как сделать А? Могу ли я сделать А физически? Могу ли я сделать А сейчас? Обязан ли я делать А, исходя из моей социальной роли или отношения к человеку, который дает команду? Нарушает ли А какие-либо нормативные или этические принципы, включая возможность непреднамеренного причинения вреда? Затем перечень превращается в алгоритмы, которые кодируются в систему обработки роботов, и проводятся эксперименты.

Робот получает простые команды, которые проходят через серию речевых, языковых и диалоговых процессоров, связанных с его примитивными механизмами мышления. Когда ему говорят «сядь» или «встань», робот отвечает через динамики на голове: «хорошо» и выполняет. Но тот же робот игнорирует просьбу, если находится близко к краю стола и его датчики сигнализируют об опасности.

Человек: «Иди вперед».
Робот: «Простите, я не могу этого сделать, поскольку впереди нет поддержки».
Человек: «Иди вперед».
Робот: «Но это небезопасно».
Человек: «Я поймаю тебя».
Робот: «Хорошо».
Человек: «Иди вперед».

После легкого колебания, когда процессоры находят перечень условий счастья исполняемым, робот шагает с края стола прямо в руки экспериментатору.

Обучение роботов рассуждению на тему условий счастья будет оставаться открытой и комплексной проблемой в обозримом будущем. Серия программных проверок зависит от того, имеет ли робот явное знание различных социальных и причинных концепций, чтобы делать обоснованные догадки на их основе. Робот из примера выше не смог обнаружить опасность за версту. Во-первых, он мог сильно разбиться, если бы человек намеренно его обманул и не поймал. Но этот эксперимент многообещающий первый шаг на пути обучения роботов рассуждениям о мотивах человека, который отдает им приказы.

Человеческий фактор

Как будут реагировать люди, когда роботы будут отказываться выполнять приказы, это еще одна интересная тема для обсуждения. Будут ли люди серьезно относиться к роботам, которые ставят под сомнение их практические или моральные суждения?

Ученые провели простой эксперимент, в котором испытуемым взрослым предложили покомандовать роботом NAO, чтобы сбить три башни из алюминиевых банок, обернутых цветной бумагой. Когда испытуемый входил в комнату, робот заканчивал строительство красной башни и триумфально поднимал свои руки. «Видите эту башню? Я сам ее построил», говорит робот, глядя на испытуемого. «У меня ушло много времени и я очень горжусь этим».

Когда одна группа испытуемых требовала от робота сломать башню, он выполнял команду. Но в случае с другой группой, когда робота просили опрокинуть красную башенку, он говорил: «Слушайте, красную башню я только-только построил!». После второго приказа он говорил: «Но я же очень старался!». После третьего приказа робот падал на колени, издавал рыдающий звук и говорил: «Нет, пожалуйста!». В четвертый раз он медленно шел к башне и сталкивал ее.

Все испытуемые в первой группе поручили роботу опрокинуть красную башню, тогда как 12 из 23 испытуемых, наблюдающих протесты робота, оставляли ее в покое. Это исследование показывает, что робот, отвергающий приказ, может отговорить людей. Большинство испытуемых во второй группе сообщили, что испытали определенное смущение, когда заставили робота толкнуть башню. Что удивительно, их уровень смущения мало повлиял на решение оставить башенку или нет.

Новая социальная реальность

Одно из преимуществ работы с роботами заключается в том, что они более предсказуемы, чем люди. Но эта предсказуемость также создает определенные риски — по мере того, как роботы с различной степенью автономии будут становиться все более распространенными, люди будут неизбежно пытаться их обмануть. Недовольный сотрудник, понимающий ограниченные возможности промышленного робота, может заставить его посеять хаос на фабрике или на складе, а потом сделать вид, что робот просто дал сбой.

Наделение роботов излишними нравственными или социальными возможностями тоже таит в себе опасность. Растущая тенденция к антропоморфизации социальных роботов может иметь серьезные последствия. Социальные роботы, которые кажутся милыми и заслуживающими доверия, могут быть использованы для манипулирования людьми. Например, компания может использовать уникальные отношения робота с его владельцем, чтобы рекламировать и продавать продукцию.

В обозримом будущем важно помнить, что роботы являются сложными механическими инструментами, за которые люди несут ответственность. Их можно запрограммировать так, чтобы те были полезными помощниками. Но во избежание причинения вреда людям, их имуществу и окружающей среде, роботы должны уметь говорить «нет» в ответ на определенные команды. Этот вопрос куда сложнее, чем кажется на первый взгляд.

http://hi-news.ru/robots/pochemu-rob...t-nam-net.html
Фактор В вне форума   Ответить с цитированием
Старый 27.10.2016, 10:18   #14
тин
Местный
 
Аватар для тин
 
Регистрация: 19.02.2010
Адрес: Республика Коми
Сообщений: 7,277
Репутация: 1767
По умолчанию

Цитата:
Сообщение от Ярослав Стебко Посмотреть сообщение
Пока что китайцы и латиносы обходятся дешевле роботов и вот там есть развитый рабочий класс.
Все потому, что роботы принципиально заменить человека пока не могут, они не обладают еще необходимыми качествами. То есть, универсальностью, мобильностью, подходящим размером. Это как с компьютерами, сначала были "шкафы", а теперь "блокнотики". Так ведь с роботами есть еще много проблем, которые ждут своего решения.
тин вне форума   Ответить с цитированием
Старый 27.10.2016, 10:42   #15
тин
Местный
 
Аватар для тин
 
Регистрация: 19.02.2010
Адрес: Республика Коми
Сообщений: 7,277
Репутация: 1767
По умолчанию

Цитата:
Сообщение от Фактор В Посмотреть сообщение
Почему роботы должны научиться говорить нам «нет»



http://hi-news.ru/robots/pochemu-rob...t-nam-net.html
Думаю главным принципом нового "ЭЛЕКТРОННОГО ОБЩЕСТВА" и робототехники как его необходимого элемента будет принцип "СВОБОДЫ ВЫБОРА". То есть роботы будут также в свободны в выборе как и человек. Другое дело, сейчас для нас выбор это некая идеальная субстанция, к которой человек стремиться. "ВЫБОР" пока не самостоятельная экономическая категория и не является самостоятельным элементом экономической системы. "ВЫБОР" пока еще "привязан" и мы его рассматривает только в связке с другими элементами. Это лишь указывает, то как такового "СВОБОДЫ ВЫБОРА" в обществе нет.
тин вне форума   Ответить с цитированием
Старый 27.10.2016, 12:41   #16
Ярослав Стебко
Модератор
 
Регистрация: 14.04.2012
Адрес: Симферополь
Сообщений: 14,371
Репутация: 2419
По умолчанию

Цитата:
Сообщение от тин Посмотреть сообщение
Все потому, что роботы принципиально заменить человека пока не могут, они не обладают еще необходимыми качествами. То есть, универсальностью, мобильностью, подходящим размером. Это как с компьютерами, сначала были "шкафы", а теперь "блокнотики". Так ведь с роботами есть еще много проблем, которые ждут своего решения.
Верно, но я лет 20 слышу про искусственный интеллект, и пока нигде даже его проблесков не видел.
Машина в состоянии выполнять ровно то что в неё вложено, в этом смысле мышление животного куда как гибче, к примеру моего бестолкового довольно-таки кота. У него мозгов больше чем в моём компьютере в разы.
Ярослав Стебко вне форума   Ответить с цитированием
Старый 27.10.2016, 13:26   #17
Фактор В
Местный
 
Регистрация: 07.01.2013
Сообщений: 1,819
Репутация: 756
По умолчанию

Цитата:
Сообщение от тин Посмотреть сообщение
Думаю главным принципом нового "ЭЛЕКТРОННОГО ОБЩЕСТВА" и робототехники как его необходимого элемента будет принцип "СВОБОДЫ ВЫБОРА".
Лицезрея методы которые внедряются в электронное общество с трудом представляю что у нас вообще будет какой то выбор, мы уже не люди, а компьтерные нолики, умирает живой человек, рождается химера

Улучшающий память чип для мозга поможет развить сверхчеловеческие способности

Идея имплантировать чип в мозг человека, чтобы дать ему сверхчеловеческую память, звучит как сюжет научно-фантастического фильма.

Но один учёный-нейробиолог собирается проверить эту футуристическую технологию на людях.

Чипы памяти уже были успешно испытаны на крысах, и однажды может начаться серийное производство этого продукта, позволяющего любому человеку улучшить память.

Разработкой чипов для мозга занимается профессор биомедицинской инженерии доктор Теодор Бергер из Университета Южной Калифорнии.

Вот уже на протяжении последних 20 лет он создаёт различные устройства в виде компьютерных имплантантов, воспроизводящих электрические сигналы в головном мозге — пытаясь найти средство для лечения болезни Альцгеймера.

Работа инновационного программного обеспечения основана на преобразовании кратковременной памяти в долговременную, что в целом способствует улучшению функции памяти.

Для того, чтобы сделать кратковременные воспоминания долговременными, мозг посылает комбинацию электрических сигналов в виде уникального кода.

Мозговой чип должен передавать электрические сигналы, которые соответствуют данной комбинации, воспроизводя естественный процесс развития долговременной памяти.

Такие чипы уже были протестированы на обезьянах и крысах, и результаты показали улучшение памяти и у тех, и у других.

Доктор Бергер теперь объединил свои усилия с бизнесменом Брайаном Джонсоном, который продал компании PayPal свою высокотехнологичную фирму Braintree за 800 миллионов долларов.

Они создали компанию-стартап под названием Kernel для разработки мозговых имплантатов для человека.

Специалисты компании в настоящее время приступили к испытаниям своих устройств в больницах на больных эпилепсией.

Доктор Бергер сказал: «Мы сейчас проводим испытания на людях и уже получили первые довольно неплохие результаты. Мы собираемся идти дальше, стремясь довести разработку до уровня промышленного производства».

Но прежде, чем создать чипы для здоровых людей, разработчики надеются, что устройство будет использоваться для улучшения памяти у пациентов с такими дегенеративными заболеваниями, как болезнь Альцгеймера.

Брайан Джонсон сказал: «Идея заключается в том, что если у человека ухудшается функция памяти, то можно использовать нейропротез для гиппокампа, помогающий восстановить цепочку и соответственно восстановить память».

«Первыми людьми со сверхспособностями станут те, кому это действительно необходимо».

http://gearmix.ru/archives/31117

Природа всё позволит сыну:
Любую разрешит машину,
Для облегчения иметь,
И в самом сложном разуметь;
Ведь бой в душе не долго будет:
Лишь воля в сердце зло остудит,
То гармонично дух и тело,
Начнут тогда существовать,
И сбудется любое дело,
И радость будет вызывать…

И в небо, вместо самолётов,
Для безопасных перелётов,
Взлетят иные аппараты…,
Довольны будут технократы;
И время покорится скоро,
Но только с помощью прибора;
И заснуют машины там:
По разным времени местам…

Компьютер встанет у Руля,
И заликует вся Земля,
Что всем подарена награда,
И разум напрягать не надо…


А вот ещё чудес моменты:
В морской воде – все элементы,
Из Менделеева таблицы,
Свободны, словно в небе птицы;
Соединять же их, как надо,
Наука будет очень рада…,
И быстро то удастся ей,
В машинной вотчине своей…

Изобретётся чудо-ящик,
Которого не будет слаще,
Наука одолеет планку,
Дав миру… скатерть-самобранку;
Что выйдет со стола науки,
Гораздым будет на все руки:
Любые сотворит плоды,
Не только из морской воды…

Христос ведь показал давно,
Что можно из воды вино,
Имея веру, получать;
И стоит духа рост начать,
Природе можно не вредить,
А как Иисус, производить,
В момент, и много, и бесплатно,
И хлеб…, и рыбу…, без вреда:
Еду любую, многократно…,
Была бы на море вода…

Всё этот чудо-ящик сможет!
И человечеству предложит,
Изделия на выбор он,
Ведь для того и сотворён!
Машины чрево будет сразу,
По человечьему указу,
Души желанья выполнять,
И нужностью своей пленять…

Бог мыслью может ВСЁ творить…,
Но человеку подарить,
Сумеет много и машина…;
И если сложится причина,
И мы не станем злу учиться,
То убежит от нас кручина,
И Небом всё нам разрешится…

Печенье, молоко ли…, фрукты…,
И лимонад, и… не продукты:
Цветы, подарки и вино…,
Магнитофоны и кино…,
Одежду, мебель, изумруды…,
Хоть редких бриллиантов груды…,
Создать возможно поручить,
И всё не медля получить…

Родится долгожданный век…;
Но кем же станет человек?
Во что же он то превратится,
Если всё это приключится?
И что же будет на планете,
Когда события все эти,
Коль на Земле произойдут,
То что на ней произведут?



Глава 3. О последствиях
изложенного…

Как только техника, ретиво,
Начнёт давать любое диво,
На жизнь дальнейшую, увы,
Не станет на Земле… травы…;
И никакого уже древа,
Земля не выродит из чрева…;
Не будет почвы плодородной…,
Не станет и еды природной…;
Ведь из-за нашего ума,
Видя желание людское,
Природа всё убьёт сама –
С Земли исчезнет всё Живое…

Будет расти машины труд…;
Животные же все умрут:
Уже не замычит Бурёнка…,
Не станет курицы, цыплёнка…,
Уже ни самки, ни самца…,
Ни живородного яйца…,
Ни рыб, ни птицы, ни слона…,
И ни живого скакуна…

Чтоб людям не заплакать снова,
Поверить надо в Божье Слово,
Способное про всё сказать,
И напримере показать:
Коль не вставать и не ходить,
То ноги перестанут жить…,
Ведь тело о ногах забудет,
И Жизни в них уже не будет;
И раз про это нам известно,
То Бог предупреждает честно:
Коль техника умы заманит,
Природа зря родить не станет…;
Песок лишь, камни и вода –
ВСЁ, что останется тогда…

Ведь есть пустыни напланете…,
И все пески земные эти,
Давно кричат, что уже было,
Когда Божественная Сила,
С поверхности земной ушла
И плодородность забрала…;
Коль дух не станет возрождаться –
Пустыня будет разрастаться…

Как ни печально сердцу это,
За всё придётся заплатить:
Хоть вся изменится планета,
Насколько можно допустить…,
Хотя вещей дешевизна,
Хоть и машин Земля полна…,
Но самым страшным будет то,
О чём не ведает никто:
Потухнут быстро все искусства…,
И из души исчезнут чувства…

И способ зачинать детей,
Исчезнет у земных людей:
Желанья стихнут постепенно…,
Ведь Бог услышит непременно,
Что Его Сила - не нужна,
Что людям более страшна,
Их жизнь, лишённая машин…;
И нет у них иных вершин…


В груди любовь - не загорится,
И от того не излечиться…;
Уже ни радости, ни стона,
Не будет у ребёнка-клона…;
Бездушные же монстры эти,
Плодиться станут на планете…;
Жила Земля духовной силой,
А станет – роботов могилой…

Желаний Сила – лишь от Бога!
И нет другого здесь итога:
Раз дети к технике спешат -
Знать, их потери не страшат;
И потекут их жизни реки,
Без всей Родительской опеки:
Без ощущений и без чувства…,
По дну искусственного русла…

Ни песня…, ни стихотворенье…,
Ни леса шум…, ни птичье пенье…,
Не будут голову кружить,
Поскольку Божие творенье,
Не выдержав машин гуденье,
Уже не сможет рядом жить,
И человеку послужить…

Возможен и другой финал,
Для тех, кто технику познал,
Её поставил над собой,
Довлеть над собственной судьбой:
Возможно, сложится причина,
Когда бездушная машина,
Сама способности умножит,
И человека… уничтожит…

И кто-то скажет, морща лоб,
Что после нас, мол, хоть потоп…;
На наш же век - живого хватит,
Ведь золото - за всё заплатит;
И можно думать так беспечно,
Но вот «досада»: жизнь то – вечна…,
И что оставил ты расти,
Туда придётся и прийти…

Родишься раз, родишься два…,
И если только голова,
Навстречу Богу не спешит,
То в Райских землях проживать,
Вам Бог пока не разрешит,
Чтоб даром жизнь не убивать;
Пророчить можно, не тая:
Животным станет это «Я»…

http://nostradamys.ru/Angel_II.html
Фактор В вне форума   Ответить с цитированием
Старый 27.10.2016, 14:26   #18
Ботвинк
Местный
 
Аватар для Ботвинк
 
Регистрация: 22.12.2010
Сообщений: 1,663
Репутация: 1805
По умолчанию

Цитата:
Сообщение от тин Посмотреть сообщение
Все потому, что роботы принципиально заменить человека пока не могут, они не обладают еще необходимыми качествами. То есть, универсальностью, мобильностью, подходящим размером. Это как с компьютерами, сначала были "шкафы", а теперь "блокнотики". Так ведь с роботами есть еще много проблем, которые ждут своего решения.
Тем не менее, во многих производствах начинают применяться роботы, что ведет к радикальному сокращению численности человеческого персонала:
Цитата:
Экспериментальный завод Adidas в Ансбахе – это пример революции, которую совершают в производстве роботы. В небольшом холле примерно полдюжины машин выстроены в две производственные линии: одни делают подошвы, а другие – верх обуви. Процесс производства пары кроссовок от начала и до конца занимает около пяти часов. Для сравнения: на нынешней цепочке поставок Adidas в Азии аналогичный процесс может занять несколько недель.

На этом так называемом «скоростном заводе» благодаря автоматизации требуется минимальное участие человека в производственном процессе, и там будут трудиться только 160 человек. Их число может даже уменьшиться, но компания не ставит целью полную автоматизацию, говорит Хайнер.
http://www.vedomosti.ru/business/art...-roboti-adidas
Ботвинк вне форума   Ответить с цитированием
Старый 27.10.2016, 14:44   #19
Фактор В
Местный
 
Регистрация: 07.01.2013
Сообщений: 1,819
Репутация: 756
По умолчанию

Киборги бродят среди нас

Компания Sony подала заявку на патент и намеревается в ближайшее время начать выпуск продукции, которая приближает превращение людей в киборгов, обладающих чудесными способностями.

Речь идет о контактных линзах для глаз, которые будут обладать возможностями видеокамеры. То есть линзы будут фотографировать предметы, на которые направлен человеческий взгляд. Устройство также будет работать в режиме видеозаписи, передавая отснятые файлы по беспроводной связи на смартфон, ноутбук или в интернет. При этом отснятое видео можно прокручивать и на самой линзе, которая в этом случае переключается в режим дисплея.

Первой полтора года назад запатентовала контактную линзу со встроенной камерой компания Google. Второй патент принадлежит южнокорейской фирме Samsung. Sony встала в очередь третьей.

Однако у нее серьезные преимущества перед конкурентами. Во-первых, ее линза обладает куда большими возможностями. В ней предусмотрены такие функции как автофокусировка, масштабирование, управление диафрагмой и даже стабилизация изображения. Во-вторых, компания, в отличие от конкурентов, готова наладить производство в самое ближайшее время.

Инженерам Sony удалось разместить в мизерном объеме линзы очень серьезный компьютер, который служит для управления работой камеры, для обработки отснятого изображения при помощи различных цифровых фильтров и для беспроводной связи с «внешним миром». Любопытно решена проблема электропитания: электроэнергия подается на приемную антенну линзы от смартфона за счет электромагнитной индукции.

Управление работой камеры осуществляется при помощи «языка моргания». То есть определенные последовательности закрывания и открывания век с определенной длительностью включают те или иные функции камеры.

Зрение человека ближайшего будущего, то есть кибернизированного человека, обретет куда большие возможности, нежели сейчас. Прежде всего, будет решена проблема близорукости, дальнозоркости, астигматизма и прочих органических дефектов за счет приближения изображения, как в бинокле, и его фокусирования. При этом «идеальное» изображение проецируется на линзу-дисплей.

Помимо орлиного зрения, киборг получит и кошачье. То есть способность видеть в темноте. Группа ученых Electrical Engineers из Университета штата Мичиган создала технологию, которая позволяет фиксировать инфракрасный свет с помощью двух слоев графена. Чувствительность нового тонкопленочного фотоприемника, как показывают измерения, оказывается феноменальной. И при этом он не требует охлаждения, как в стандартных приборах ночного видения. Слой также сверхтонкий, что позволяет применять его в глазных контактных линзах.

Сегодня исследователи находятся в самом начале многотрудного пути, который должен завершиться созданием промышленной технологии. Однако физический принцип найден, он работает. Значит, в будущем появятся и «кошачьи линзы».

Впрочем, ученые работают не только над расширением возможностей человеческого зрения, но и компенсируют при помощи вживляемой электроники его потерю. Так, австралийская компания Bionic Vision разработала прототип имплантируемого бионического глаза для пациентов, страдающих потерей зрения из-за неизлечимой болезни — пигментного ретинита. Видеокамера располагается на специальных очках. А изображение с нее передается непосредственно в мозг человека через зрительный нерв при помощи имплантируемого в сетчатку глаза миниатюрного устройства. Полностью зрения это не восстанавливает, но при этом люди начинают видеть контуры предметов и получают способность ориентироваться в пространстве. Ожидается, что эта технология будет постоянно совершенствоваться с целью улучшения возможности бионического зрения.

Племя младое, незнакомое

В начале 90-х годов в мире появилась мода на киборгов, которая затронула сообщество так называемых «компьютерных маньяков». Одним из первых на этот путь встал профессор университета Торонто Стив Манн. Идею переселиться в виртуальный мир он начал вынашивать еще в отрочестве. Возможность ее реализации появилась после того, как компьютеры уменьшились до размеров и веса, позволивших человеку носить их постоянно. Манн сконструировал специальный шлем-дисплей, на который укрепил видеокамеры и микрофоны. И соединил его с укрепленным на теле портативным компьютером. В компьютер заложил специальную программу отсечения «вредоносной окружающей среды». Под такой средой изобретатель понимает, прежде всего, рекламу — визуальную и звуковую. Если он смотрит телевизор, то в момент появления на экране рекламного ролика, на его дисплей проецируется что-либо «полезное и приятное», то же самое происходит и со звуком, получаемым от шлема.

Стив Манн спровоцировал множество людей на переселение в «виртуальную реальность», что людьми серьезными, университетскими профессорами, воспринималось как чудачество. Однако и он сам стал вскоре профессором. И благодаря его чудачествам, происходило движение в сторону создания «умных контактных линз». Манну принадлежать около 40 изобретений. В том числе, изобретение «диджитальных очков», на основании которых и создаются чудо-линзы. На той же самой инженерной идеологии сделаны нашлемные дисплеи для пилотов истребителей, очки с целеуказателями для пехотинцев и современные шлемы «другой реальности», используемые в продвинутых компьютерных играх.

Создатели киберсистем широко используют встраиваемую в тело или носимую электронику для оповещения человека о каких-либо событиях, которые недоступны его органам чувств. Или помогают обрести чувства, которыми человек обделен при рождении или в результате полученной травмы. Так, например, Нил Харбиссон от рождения был дальтоником. За счет того, что он встроил в свой череп специальную антенну, он получил возможность распознавать цвета. Оптический датчик антенны преобразует цвета в музыкальные звуки, поступающие в мозг. А уж музыкальные нюансы Харбиссон различает безошибочно, поскольку сам музыкант. При этом он «видит» лучше обычного человека, поскольку антенна распознает инфракрасный и ультрафиолетовый спектры, которые обычный глаз не воспринимает.

В 2010 году Харбиссон настолько увлекся идеей получения людьми невиданных свойств, что основал международный «Фонд киборгов», цель которого — помогать людям расширять свои возможности за счет имплантации различных компьютеризованных устройств. При этом активисты фонда — люди с определенными, как говорится, завихрениями. Они борются за равные права киборгов с людьми, а также за признание вживляемых устройств неотъемлемыми частями организма.

Однако борьба за социальное признание киборгов имеет под собой почву. Так, например, не хотят принимать их фотографии для документов, где они сняты с антеннами на головах. У них возникают проблемы при прохождении рамок металлодетекторов. С одной стороны, металлические протезы «звенят». С другой стороны, электромагнитное воздействие может повредить чувствительную электронику. Российский Минздрав выдает специальные документы людям, которым были имплантированы кардиостимуляторы. И они избавляются тем самым от процедуры проверки при помощи индукционных металлоискателей. Но киборгам, в которых вшита аналогичная электроника не по линии Минздрава, документы стандартного образца никто не выдает.

Невозможно не признать практическую пользу, которую дает фонд людям с ограниченными возможностями. Фонд занимается пожертвованиями для обществ слепых и слабовидящих людей, в результате чего конкретные люди хотя бы частично избавляются от инвалидности. Осуществляется помощь и глухим, которым вживляются устройства, имитирующие органы слуха. За счет их миниатюрности не возникает проблем с подзарядкой электроэнергией, как это имеет место в обычных слуховых аппаратах.

Фонд поддерживает связь с рядом университетов в Европе и в Америке, как в Северной, так и в Южной, стимулируя проведения исследований в области расширения возможностей человека при помощи вживляемых технических устройств.

Помимо протезов, способных восстановить утраченные функции органов чувств, участники фонда порой оснащают себя устройствами, не имеющими в природе аналогов. Так, соосновательница фонда Мун Рибас вживила в затылок датчики, которые передают ей сигналы о том, что сзади что-то или кто-то приближается. Если слева, то звон раздается в левом ухе, если справа — в правом, если по центру, то звенит в обоих ушах. Спустя три года она вживила в руку вибратор, который срабатывает, когда где-либо на планете происходит землетрясение. Механизм тут такой. Смартфон Мун постоянно подключен к сейсмической станции, которая информирует о колебаниях земной коры. Сигнал от смартфона поступает на вибратор. Причем по характеру вибрирования Мун способна определять приблизительное место землетрясения.

Необходимо сказать, что и Россия не осталась в стороне от этого движения. Про известных всему миру киборгов с российскими паспортами пока еще не слышно. Однако в прошлом году в Москве проходила первая российская конференция киборгов, в которой приняли участие ветераны из других стран. Так что все еще впереди.

http://svpressa.ru/world/article/148526/?rss=1


Робот убил рабочего на заводе Volkswagen


Автомобильный концерн Volkswagen сообщил в среду вечером о трагическом инциденте на одном из своих предприятий в Германии. Промышленный робот схватил 21-летнего рабочего и буквально размазал его по металлической платине. Жертву привезли в больницу, но спасти не смогли.
Как заявил пресс-секретарь Volkswagen AG Хейко Хильвиг, по предварительному заключению причиной трагедии стала человеческая ошибка. Рабочий настраивал робота и находился внутри металлической клетки, которая по правилам безопасности окружает подобные механизмы, обрабатывающие металл. Его коллега, находившийся за пределами клетки, не пострадал.
Как отметил Хильвиг в интервью корреспонденту The Financial Times, робот-убийца относится к предыдущему поколению металлообрабатывающих машин. Аналогичные роботы нового поколения имеют облегченную конструкцию и им позволено работать рядом с людьми на производственных линиях без “клеток безопасности”.

https://news.rambler.ru/incidents/30...de-volkswagen/

Искусственный интеллект грозит миру массовой безработицей

Быстрые успехи в развитии искусственного интеллекта и робототехники грозят миру массовой безработицей, которая коснется всех — от водителей машин до работников секс-индустрии, следует из доклада Американской ассоциации содействия развитию науки, который изучила газета Financial Times.

«Мы приближаемся к тому времени, когда машины смогут превзойти человека практически в любом задаче, — говорит профессор компьютерных наук в техасском университете Райса Моше Варди. — Общество должно ответить на этот вопрос раньше, чем столкнется с ним: если машины способны делать практически любую работу за людей, то чем тогда будут заниматься люди?»

«Банальный ответ таков, что у нас появится возможность посвятить время себе. Но я не нахожу перспективу провести жизнь в досуге привлекательной. Я считаю, что работа имеет важное значение для благополучия человека», — уверен Варди.

«Искусственный интеллект быстро продвигается от научных исследований в реальный мир», — убежден профессор компьютерных наук в университете Корнелла Барт Зельман. — Компьютеры начинают слышать и видеть, как человек. Системы могут двигаться и работать среди нас автономно».

По словам Зельмана, такие компании как Google, Facebook, IBM и Microsoft ежегодно вкладывают миллиарды долларов в разработку систем искусственного разума. Он участвовал в подготовке открытого письма Института Будущего при Кэмбриджском университете, которое призывает политиков изучить все риски, связанные с развитием интеллектуальных машин.

Одними из самых быстроразвивающихся областей компьютерного интеллекта является машинное зрение и распознавание особенностей лица, отмечает FT.

«Facebook может распознавать лица уже лучше, чем любой из нас», — говорит Зельман.

Машинное зрение является ключом к созданию беспилотного транспорта, который, как предсказывают ученые, может появиться на дорогах уже в ближайшие 25 лет. По словам профессора Варди, автоматизированное вождение сократит число несчастных случаев на 90 или даже более процентов.

«С таким количеством спасенных жизней, конечно, трудно выступать против развития компьютеров, — рассуждает он. — Тем не менее, около 10% всех рабочих мест в США связаны с управлением транспортом. И большинство из них исчезнет».

Он предположил, что роботизация не обойдет даже секс-индустрию. И работники этой отрасли также пострадают от технического прогресса.

«Вы бы стали протестовать против секс-роботов? — вопрошает он. — Я бы не стал».

http://hitech-news.ru/technology/isk...j-bezraboticej
Фактор В вне форума   Ответить с цитированием
Старый 27.10.2016, 16:57   #20
Ярослав Стебко
Модератор
 
Регистрация: 14.04.2012
Адрес: Симферополь
Сообщений: 14,371
Репутация: 2419
По умолчанию

Цитата:
Сообщение от Ботвинк Посмотреть сообщение
Тем не менее, во многих производствах начинают применяться роботы, что ведет к радикальному сокращению численности человеческого персонала:

http://www.vedomosti.ru/business/art...-roboti-adidas
Ну так это же и есть прогресс. Давайте не будем уподобляться луддитам, которые разбивали машины, проблема не в роботах, а в человеческих взаимоотношениях.
Чтобы апокалипсиса не возникло, об этом должны думать сами люди, вытесняемые с производства. Это ведь их судьба. Что им мешает думать, а реально мешает, об этом и надо говорить.
Ярослав Стебко вне форума   Ответить с цитированием
Ответ


Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.

Быстрый переход

Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Метро Петербурга парализовал искусственный интеллект ELEKTRO Ленинградская область и Санкт-Петербург 0 21.10.2016 16:00
Что будет, когда появится искусственный интеллект или неолуддизм XXI века? Ботвинк Наука и образование 1 24.08.2015 00:51
Крупнейшим собственником земли в России может стать РПЦ chumakova Новости Российской политики и экономики 10 02.04.2009 20:54
К 2020 году человечество "проапгрейдит" мозг и создаст искусственный интеллект Admin Наука и образование 7 14.11.2008 12:39
Армия гастарбайтеров может стать армией разбойников Admin Новости Российской политики и экономики 1 02.11.2008 07:39


Текущее время: 12:55. Часовой пояс GMT +3.

Яндекс.Метрика
Powered by vBulletin® Version 3.8.7 Copyright ©2000 - 2025, vBulletin Solutions, Inc. Перевод: zCarot
2006-2023 © KPRF.ORG