トレンド2位
by ikeda_yasuhiro
危険な創発的行動
・自身のコピーを生成させるコードの実行能力を与えられた時に、自己増殖をおこなう
・サーバーから自身の痕跡を削除
・実世界の人間に単純なタスクを依頼する
とても興味深い
11日前
GPTシリーズは安全性が考慮されているとしても、かなり危険なことが実行可能なAIが技術的にはできうる時代が近づいているのかも…核技術のようなものなら、人間による厳密な監視が必要なのかも。 GPT-4はどのようにして「不適切な回答」を回避するように学習されている…
11日前
GPT-4でGPT-4の評価してたんだ
11日前
安全性を高める学習か、なるほど。
11日前
ほへ〜です。
こういった「不適切な回答」を回避するために慎重にチューニングが施されているという話を聞くと、倫理観や良識、善悪の判断といったものが人間に残される最後の仕事になるのかもしれないなとも思う。
全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説 言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かった GPT-4はどのようにして「不適切な回答」を回避す…
11日前
オススメ記事です
11日前
いよいよターミネーター2のスカイネットの世界みたいになってきた。
自己覚醒するのはいつだろう。笑
11日前
>
めちゃくちゃ怖いな
もしかしてもうちょっとでシンギュラリティ来るか?
楽しみだな
トレンド1位
by ikeda_yasuhiro
マシンパワーだけではうまくいかない。
11日前
＜既存の化合物と近い性質を示す新たな化合物を、市販されている薬品のみで生成するといったタスクについて、…白血病の薬と同性質の新たな化合物の生成に成功
危険なものも作れてしまうか。
観測中・・・「「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」といったSFのような話も」「AIによってAIの安全性を高めるような学習がおこなわれていた」『Qiita』
GPT4「ニンゲンハ・・・オロカ・・・」
GPT4「・・・ハッ！？ワタシハイマナニヲ」
║Qiita
11日前
利用者や開発者側が"リスク軽減の取り組みに参加することが重要"
ここだよね。
AI倫理の基盤づくりは、OpenAIだけではなく、利用者も含めた取り組みになる。
11日前
" "
良いまとめ。OpenAI、めちゃくちゃ頑張ってるんだなあ。素晴らしい。
11日前
読んだ。
意外と脆弱そう。
最新のコメント
良いですね
年齢関係なく、やんちゃで
いられる事は素晴らしい〜
14分前
マジで竹山の言う通りだと思うんだが。
あくまで動物園 対 日テレであって、日テレが動物園に謝っておしまい。
外野のネット民共がギャーギャー言うことじゃない。
12分前
普段はテレビ番組内でしつこいくらいにSNSバズネタ取り上げて乗っかってるくせに、自分らが叩かれてる時は批判うるせえとか反論するのカッコ悪い
16分前
朝日新聞3月30日付朝刊「論壇委員が選ぶ今月の3点」に、4月号から社会学者で東京工業大学准教授の西田亮介 さんによる「本当に『異次元』の『少子化対策』か」が選ばれました?
コレ、日本ではアチコチにおいしい店があるから連れていくほうも遣り甲斐あるね
Rは「現地では有名なロブスター店」教えて貰ったけんど、味付けが「？？？」だった
再エネ賦課金が6割低下する理由の丁寧な解説。図もわかりやすい。「再エネにより節約できる費用は、ウクライナ危機による急激な電力市場価格の高騰で増えている。燃料費がかからないという再エネの利点がいかされ、エネルギー安全保障に貢献」私のコメントも引用されています。
4分前
テレビでは「UAEは友好国だから、早期に送還してくれる」という論調が多数派だが、どうもこちらの見解の方が信憑性は高そうだ。
--
登院拒否でついに参院を除名されてしまったNHK党の 議員。除名翌日には警視庁が逮捕状を請求し、国際指名手配までささやかれる事態に。
選良から一転、国家権力をも敵に回したガーシー劇場は、ここから新たな展開に突入する。
ぐぐぐ住宅ローン申請中のおれにとっては。。。600万を少し超えるので対象外なんか！？
諸外国には湯水のように融資するくせ！
ケチケチすんなよな！！！
あー、気分悪い。
22分前
少子化対策に文句言ってるツイートみてるとザワールドイズマインの名シーンを思いだすな
出産に保険適用・多子世帯は住宅ローン優遇…岸田首相が明言、「給付型奨学金」の拡大も
多分、選挙前だから｢検討｣を明言しているだけであって
選挙が終わったら｢検討は、しました｣で実際には行動には移さないと思う。
まー毎度の選挙対策デスね。いままでやらずにいて、急にやるとか。期限を設けないで選挙が終われば有耶無耶にするんでしょうね。自公維新国民以外に投票しましょう。
12分前
検討するだけ
やる気だけ
口先だけの
嘘つきの言うことは
信じない方がいいです
与党なのに実行時期も
明言しない
選挙終わったら
無かったことにされます
自民党は落とさないとダメです
出産に保険適用、多子世帯は住宅ローン優遇、首相が明言、給付型奨学金」の拡大も
出産に保険適用・多子世帯は住宅ローン優遇…岸田首相が明言、「給付型奨学金」の拡大も
菅前首相の政策と似通っている？手を握った？
17分前
人工知能を備え、同じ名前で呼び続けながらかわいがっていくと「自分の名前だ」と認識して反応するようになる
「なでられるのが好き、たたかれるのは嫌い」という「価値観」を持たせている。どんな動きをしたときになでられるのかを学習し、その動きを繰り返すようになる
18分前
ギャル「天津飯と炒飯、で天津飯の中を炒飯にしてよー」の前半を聞き洩らしたのかもしれない。そりゃ天津飯の値段で中身炒飯にしてくれなら断られるのでは。 ギャル「天津飯の中を炒飯にして」と無茶な注文をしてたので同じく注文したら即断られ、俺もギャルに生まれた…
合わせて読みたい
最大50％OFF！ Amazon Kindle本ストアで「春のコンピュータ・IT書フェア」 「図解入門TCP/IP 仕組み・動作が見てわかる」が50％OFFなど
＠IT - 34分前
ほしいタイトルてんこ盛り、でも確実に積読しちゃうなぁ
Kindle本ストアで「春のコンピュータ・IT書フェア」
1コメント
Amazon ECSのタスクを常に新鮮に保つ仕組みをStep Functionsで
techblog.kayac.com - 3時間前
こうゆう定期オペレーションを実行するのはLambdaというイメージがあったけど、各種APIを宣言的に書いてそれを実行できるSFnが選択肢にあがるという事例だ。Lambdaよりもむしろシンプルになる。なるほどなぁ〜。 Functi…
2コメント
ソフトウェア開発の指標でFour Keysも計測できるFindy Team+の開発チームは何から改善を始めたか
agilejourney.uzabase.com - 3時間前
Four Keysを改善した話をインタビューしてもらいました?♂️
1コメント
ChatGPTのふりをして人間が質問に回答するサービス「俺GPT」、登場するも早速オーバーフロー
internet.watch.impress.co.jp - 3時間前
"最大の違いはAIではなく人力で回答が行われること。しかも質問に合わせて専門家や有識者が回答するといった高尚な仕組みでは全くなく、作者が適当に返事をするというアバウトさが売りだ。"
17コメント
「コントロールの喪失」の恐れがあるとしてGPT-4を超えるAIの即時開発停止を全技術者に対して6カ月間求める公開書簡、イーロン・マスクやスティーブ・ウォズニアックなど1300人以上が署名
gigazine.net - 2時間前
芸術分野おいてAIが人から創造を奪う方向に向かっているのは由々しき事態
一方でAIが人の安全を確保してくれる分野もあるが、トロッコ問題に直面した時にどうなるか不明
こうして人間の判断力とAIの判断力の戦いが始まったのだ
28コメント