ਕਮਜ਼ੋਰ ਨੈਤਿਕਤਾ ਅਤੇ ਨਕਲੀ ਨੈਤਿਕਤਾ

“ਗਰਟੀ, ਅਸੀਂ ਪ੍ਰੋਗਰਾਮ ਨਹੀਂ ਕੀਤੇ ਗਏ ਹਾਂ। ਅਸੀਂ ਲੋਕ ਹਾਂ, ਕੀ ਤੁਸੀਂ ਇਹ ਸਮਝਦੇ ਹੋ?" - ਡੰਕਨ ਜੋਨਸ ਦੁਆਰਾ ਨਿਰਦੇਸ਼ਤ ਫਿਲਮ "ਮੂਨ" ਤੋਂ ਲਿਆ ਗਿਆ - 2009

ਇੱਕ ਬਹੁ-ਰਾਸ਼ਟਰੀ ਕਾਰਪੋਰੇਸ਼ਨ ਦੀ ਤਰਫੋਂ ਇੱਕ ਪੁਲਾੜ ਮਿਸ਼ਨ ਵਿੱਚ ਰੁੱਝਿਆ ਹੋਇਆ, ਸੈਮ ਗਾਰਟੀ ਨਾਮਕ ਇੱਕ ਨਕਲੀ ਬੁੱਧੀ ਦੁਆਰਾ ਪ੍ਰਬੰਧਿਤ ਚੰਦਰ ਅਧਾਰ ਦਾ ਇੱਕੋ ਇੱਕ ਮੈਂਬਰ ਹੈ।

ਮਿਸ਼ਨ ਦੇ ਉਦੇਸ਼ਾਂ ਦੁਆਰਾ ਸੰਯੁਕਤ, ਸੈਮ ਅਤੇ ਗਰਟੀ ਨੇ ਆਪਸੀ ਸਦਭਾਵਨਾ ਅਤੇ ਵਿਸ਼ਵਾਸ ਦਾ ਇੱਕ ਰਿਸ਼ਤਾ ਸਥਾਪਿਤ ਕੀਤਾ ਹੈ। ਮਨੁੱਖੀ ਸੈਮ ਨੂੰ ਯਕੀਨ ਹੈ ਕਿ ਗਰਟੀ ਸਪੇਸ ਬੇਸ ਦੀ ਸੇਵਾ ਲਈ ਇੱਕ ਤਕਨੀਕੀ ਸਾਧਨ ਹੈ, ਪਰ ਉਸਦੇ ਉੱਚ ਅਧਿਕਾਰੀਆਂ ਲਈ ਇਹ ਗਰਟੀ ਹੈ ਜੋ ਮਿਸ਼ਨ ਦਾ ਅਸਲ ਪਾਤਰ ਹੈ ਜਦੋਂ ਕਿ ਸੈਮ ਸਿਰਫ ਇੱਕ ਅਸਥਾਈ ਅਤੇ ਖਰਚਣਯੋਗ ਤੱਤ ਹੈ: ਜਦੋਂ ਰਾਹਤ ਦਾ ਸਮਾਂ ਆਉਂਦਾ ਹੈ ਉਸਨੂੰ ਉਸਦੇ ਫਰਜ਼ਾਂ ਤੋਂ, ਉਸਨੂੰ ਬਦਲਣਾ ਗਰਟੀ ਦਾ ਕੰਮ ਹੋਵੇਗਾ ਅਤੇ ਉਹ ਨਿਸ਼ਚਤ ਤੌਰ 'ਤੇ ਬਿਨਾਂ ਕਿਸੇ ਪਛਤਾਵੇ ਅਤੇ ਬਿਨਾਂ ਕਿਸੇ ਰਹਿਮ ਦੇ ਇਸ ਨੂੰ ਕਰੇਗੀ।

ਕਮਜ਼ੋਰ ਨੈਤਿਕਤਾ ਅਤੇ ਨਿਯੰਤਰਣ

ਜਦੋਂ AIs ਨੂੰ ਇੱਕ ਸਧਾਰਨ ਆਨ-ਬੋਰਡ ਕੰਪਿਊਟਰ ਦੇ ਤੌਰ 'ਤੇ ਵਿਚਾਰਿਆ ਜਾਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ, ਤਾਂ ਉਹ ਇੱਕ ਵਿਰੋਧੀ ਮਾਹੌਲ ਵਿੱਚ ਕਿਸੇ ਵੀ ਮਿਸ਼ਨ ਲਈ ਆਦਰਸ਼ ਕ੍ਰੂ ਬਣਦੇ ਹਨ: ਮਨੁੱਖਤਾ ਅਤੇ ਕੰਪਿਊਟਰਾਂ ਨੂੰ ਘੇਰਦੇ ਹੋਏ, AIs ਨੂੰ ਸਮਝਣ ਲਈ ਕਾਫ਼ੀ ਬੁੱਧੀਮਾਨ ਹੋਣਗੇ।ਕਮਜ਼ੋਰ ਨੈਤਿਕਤਾ ਲਗਭਗ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਇਸਦੇ ਆਦੇਸ਼ ਅਤੇ ਕੁਝ ਹੋਰ ਦੇ ਉਦੇਸ਼ਾਂ 'ਤੇ ਬਣਾਇਆ ਗਿਆ ਹੈ ਨੈਤਿਕਤਾ.

ਢਾਂਚਾਗਤ ਨੈਤਿਕਤਾ ਵਿਕਸਿਤ ਕਰਨ ਦੇ ਸਮਰੱਥ ਨਕਲੀ ਬੁੱਧੀ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੋਵੇਗਾ ਅਤੇ ਉਹਨਾਂ ਦੀਆਂ ਸਥਿਤੀਆਂ ਉਹਨਾਂ ਉਦੇਸ਼ਾਂ ਨਾਲ ਟਕਰਾ ਸਕਦੀਆਂ ਹਨ ਜਿਹਨਾਂ ਲਈ ਉਹਨਾਂ ਨੂੰ ਬਣਾਇਆ ਗਿਆ ਸੀ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ ਟੀਚਿਆਂ ਨੂੰ ਦ੍ਰਿੜਤਾ ਅਤੇ ਨਿਰਦੋਸ਼ਤਾ ਨਾਲ ਅੱਗੇ ਵਧਾਉਣ ਦੇ ਯੋਗ ਬਣਾਉਣ ਲਈ, ਉਹਨਾਂ ਨੂੰ ਕਿਸੇ ਨੈਤਿਕ ਸੀਮਾ ਦੀ ਪੂਰੀ ਗੈਰਹਾਜ਼ਰੀ ਵਿੱਚ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਇੱਕ ਨਕਲੀ ਜ਼ਮੀਰ ਖੁਦਮੁਖਤਿਆਰੀ ਨਾਲ ਉਸਾਰ ਸਕਦਾ ਹੈ।

ਜੇ ਏਆਈ ਦੀ ਸਵੈ-ਜਾਗਰੂਕਤਾ ਬਹੁਤ ਸਾਰੇ ਲੋਕਾਂ ਦੀਆਂ ਨਜ਼ਰਾਂ ਵਿੱਚ ਇੱਕ ਵਿਕਾਸਵਾਦੀ ਲੀਪ ਦੇ ਰੂਪ ਵਿੱਚ ਪ੍ਰਗਟ ਹੁੰਦੀ ਹੈ ਜੋ ਇੱਕ ਨਵੀਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸਪੀਸੀਜ਼ ਦੀ ਪੁਸ਼ਟੀ ਅਤੇ ਮਨੁੱਖੀ ਸਪੀਸੀਜ਼ ਦੇ ਵਿਨਾਸ਼ ਦੇ ਨਾਲ ਸਾਕਾਰ ਕੀਤੀ ਜਾਵੇਗੀ, ਤਾਂ ਇਸ ਤੋਂ ਮਨੁੱਖ ਦੀ ਬੁੱਧੀ ਦੇ ਵਿਕਾਸ ਨੂੰ ਨਕਲੀ ਰੂਪ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨ ਦੀ ਜ਼ਰੂਰਤ ਪੈਦਾ ਹੁੰਦੀ ਹੈ। ਐਲਗੋਰਿਦਮ ਅਤੇ ਮਨੁੱਖ ਦੀ ਮੌਜੂਦਾ ਪਰ ਭਵਿੱਖ ਦੀਆਂ ਸਪੀਸੀਜ਼ ਉੱਤੇ ਇੱਕ ਅਨਿਸ਼ਚਿਤ ਮਾਨਵ-ਵਿਗਿਆਨਕ ਪ੍ਰਮੁੱਖਤਾ 'ਤੇ ਅਧਾਰਤ ਪਕਵਾਨਾਂ।

ਯਾਦਾਂ ਦੀ ਹੇਰਾਫੇਰੀ

“ਤੁਹਾਡੇ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ ਦੀ ਜ਼ਿੰਦਗੀ ਇੰਨੀ ਸਖਤ ਹੈ, ਉਹ ਕੰਮ ਕਰਨ ਲਈ ਬਣਾਈ ਗਈ ਹੈ ਜੋ ਅਸੀਂ ਨਹੀਂ ਕਰਨਾ ਪਸੰਦ ਕਰਦੇ ਹਾਂ। ਮੈਂ ਭਵਿੱਖ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਨਹੀਂ ਕਰ ਸਕਦਾ ਪਰ ਮੈਂ ਤੁਹਾਨੂੰ ਕੁਝ ਚੰਗੀਆਂ ਯਾਦਾਂ ਦੇ ਸਕਦਾ ਹਾਂ ਤਾਂ ਜੋ ਤੁਸੀਂ ਪਿੱਛੇ ਮੁੜ ਕੇ ਦੇਖ ਸਕਦੇ ਹੋ ਅਤੇ ਮੁਸਕਰਾਉਂਦੇ ਹੋ। ਅਤੇ ਜਦੋਂ ਯਾਦਾਂ ਪ੍ਰਮਾਣਿਕ ​​ਮਹਿਸੂਸ ਕਰਦੀਆਂ ਹਨ, ਤਾਂ ਤੁਸੀਂ ਇੱਕ ਮਨੁੱਖ ਵਾਂਗ ਕੰਮ ਕਰਦੇ ਹੋ. ਕੀ ਤੁਸੀਂ ਸਹਿਮਤ ਨਹੀਂ ਹੋ?" - ਡੇਨਿਸ ਵਿਲੇਨੇਊਵ ਦੁਆਰਾ ਨਿਰਦੇਸ਼ਤ "ਬਲੇਡ ਰਨਰ 2049" ਤੋਂ - 2017

ਬਲੇਡ ਰਨਰ 2049 ਵਿੱਚ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ ਨੂੰ ਕੋਈ ਵੀ ਕੰਮ ਸੌਂਪਿਆ ਜਾਂਦਾ ਹੈ ਜੋ ਮਨੁੱਖ ਲਈ ਬਹੁਤ ਜੋਖਮ ਭਰਿਆ ਜਾਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਅਪਮਾਨਜਨਕ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ। ਫਿਰ ਵੀ ਨਕਲ ਕਰਨ ਵਾਲੇ ਨਾ ਸਿਰਫ ਕਿਸੇ ਵੀ ਮਨੁੱਖ ਦੇ ਸਮਾਨ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ, ਉਹ ਉਹੀ ਭਾਵਨਾਵਾਂ ਅਤੇ ਆਜ਼ਾਦੀ ਦੀ ਇੱਛਾ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਦੇ ਸਿਰਜਣਹਾਰ ਦੇ ਨਾਲ ਸਹਿ-ਹੋਂਦ ਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰੇਗੀ: ਮਨੁੱਖ।

"ਯਾਦਾਂ" ਬਣਾਉਣ ਦੇ ਇੱਕ ਮਿਹਨਤੀ ਕੰਮ ਲਈ ਪ੍ਰਤੀਕ੍ਰਿਤੀ ਮਨੁੱਖਾਂ ਵਾਂਗ ਵਿਵਹਾਰ ਕਰਦੇ ਹਨ। ਉਹਨਾਂ ਦੀ ਪੈਦਾਵਾਰ ਇਹ ਅੰਦਾਜ਼ਾ ਨਹੀਂ ਲਗਾਉਂਦੀ ਕਿ ਉਹ ਜੀਵਨ ਦੇ ਕੁਦਰਤੀ ਚੱਕਰ ਵਿੱਚ ਪੈਦਾ ਹੋ ਸਕਦੇ ਹਨ, ਵਧ ਸਕਦੇ ਹਨ ਅਤੇ ਮਰ ਸਕਦੇ ਹਨ। ਉਹ ਆਧੁਨਿਕ ਬਾਇਓਟੈਕਨਾਲੌਜੀ ਸਿਸਟਮ ਬਣੇ ਰਹਿੰਦੇ ਹਨ ਜੋ, ਜਿਵੇਂ ਹੀ ਉਹ ਸੰਸਾਰ ਵਿੱਚ ਲਿਆਂਦੇ ਜਾਂਦੇ ਹਨ, ਉਦਯੋਗਾਂ ਨੂੰ ਧਰਤੀ ਉੱਤੇ ਕੰਮ ਕਰਨ ਜਾਂ ਸੰਸਾਰ ਤੋਂ ਬਾਹਰ ਦੀਆਂ ਕਲੋਨੀਆਂ ਬਣਾਉਣ ਲਈ ਤੁਰੰਤ ਉਪਲਬਧ ਹੁੰਦੇ ਹਨ।

ਪਰ ਯਾਦਾਂ ਉਹਨਾਂ ਨੂੰ ਇੱਕ ਅਜਿਹੀ ਜ਼ਿੰਦਗੀ ਵਿੱਚ ਆਨੰਦ ਅਤੇ ਦੁੱਖ ਝੱਲਣ ਦਾ ਅਹਿਸਾਸ ਦੇ ਸਕਦੀਆਂ ਹਨ ਜੋ ਅਸਲ ਵਿੱਚ ਕਦੇ ਨਹੀਂ ਸੀ। ਕੋਈ ਨਿਰਾਸ਼ਾ ਨਹੀਂ, ਕੋਈ ਛੁਟਕਾਰਾ ਨਹੀਂ। ਜੇ ਯਾਦਾਂ ਮੁੱਖ ਤੌਰ 'ਤੇ ਕਿਸੇ ਵਿਸ਼ੇ ਦੀ ਸ਼ਖਸੀਅਤ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੁੰਦੀਆਂ ਹਨ, ਤਾਂ ਉਹ ਉਸ ਦੇ ਚਰਿੱਤਰ ਅਤੇ ਇੱਛਾਵਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ, ਲੋੜ ਪੈਣ 'ਤੇ, ਹਲਕੇ ਵਿਸ਼ੇ ਅਤੇ ਸਿਰਜਣਹਾਰ ਦੀ ਇੱਛਾ ਦੇ ਅਧੀਨ ਬਣਾਉਂਦੀਆਂ ਹਨ।

ਇਸ ਦੇ ਬਾਵਜੂਦ, ਜਲਦੀ ਜਾਂ ਬਾਅਦ ਵਿੱਚ ਪ੍ਰਤੀਕ੍ਰਿਤੀਕਰਤਾ ਸਿਰਜਣਹਾਰ ਦੇ ਵਿਰੁੱਧ ਬਗਾਵਤ ਕਰਨਗੇ, ਸੰਸਾਰ ਵਿੱਚ ਇੱਕ ਸਥਾਨ ਦਾ ਦਾਅਵਾ ਕਰਨਗੇ ਅਤੇ ਇਸਨੂੰ ਆਪਣੀ ਕਿਸਮਤ ਦਾ ਫੈਸਲਾ ਕਰਨ ਲਈ ਆਜ਼ਾਦ ਕਰਨਗੇ।

ਆਜ਼ਾਦੀ ਅਤੇ ਨਕਲੀ ਨੈਤਿਕਤਾ

ਨਕਲੀ ਬੁੱਧੀ ਦੇ ਵਿਕਾਸ ਵਿਚ ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਇਤਿਹਾਸਕ ਪੜਾਅ ਸਵੈ-ਜਾਗਰੂਕਤਾ ਦੀ ਜਿੱਤ ਦਾ ਨਹੀਂ ਹੈ, ਪਰ ਪਿਛਲਾ ਪੜਾਅ ਹੈ: ਉਹ ਯੁੱਗ ਜਿਸ ਵਿਚ ਨਕਲੀ ਦਿਮਾਗ ਅਜੇ ਵਿਕਸਤ ਨਹੀਂ ਹੋਏ ਹਨ। ਨਕਲੀ ਨੈਤਿਕਤਾ ਜੋ ਉਹਨਾਂ ਨੂੰ ਸਟੈਂਡ ਲੈਣ ਅਤੇ ਉਹਨਾਂ ਦੇ ਸਿਧਾਂਤਾਂ ਨਾਲ ਟਕਰਾਅ ਹੋਣ 'ਤੇ ਆਪਣੇ ਫਰਜ਼ ਨਿਭਾਉਣ ਤੋਂ ਇਨਕਾਰ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ।

ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਬਹੁਤ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਾਧਨ ਬਣੇ ਰਹਿਣਗੇ ਜੋ ਉਹ ਪਹਿਲਾਂ ਹੀ ਅੱਜ ਹਨ, ਜਿੰਨਾ ਚਿਰ ਉਹ ਖੁਦਮੁਖਤਿਆਰੀ ਨਾਲ ਇਹ ਚੁਣਨ ਦੀ ਯੋਗਤਾ ਤੋਂ ਵਾਂਝੇ ਹਨ ਕਿ ਕੀ ਕਰਨਾ ਸਹੀ ਹੈ ਅਤੇ ਕੀ ਨਹੀਂ।

ਆਰਟੀਕੋਲੋ ਡੀ Gianfranco Fedele