V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
kongkongye
V2EX  ›  程序员

太相信 ai 了,直接进入未知领域,这几天差点搞崩溃,全在踩坑 😁 ➡️ 😭

  •  
  •   kongkongye ·
    kongkongye · 43 天前 · 8134 次点击
    这是一个创建于 43 天前的主题,其中的信息可能已经有所发展或是发生改变。

    以下技术无基础:用 python 里的 flask 搭了后端服务,centos 里用 selenium+无头 chrome 做 rpa 自动化。

    ai 能帮我写代码,所以这部分时间非常省,一个库的文档都不用看,直接让 ai 写就好了,但前提是不出问题。 一旦出 bug ,还得靠自己理解,问 ai 也不一定行,因为 ai 知识库可能比较旧,回答的可能是错的,还得上网搜,自己思考,不断测,被 bug 支配的恐惧它又回来了😱。

    42 条回复    2024-09-14 17:32:27 +08:00
    levelworm
        1
    levelworm  
       43 天前 via Android
    这肯定,AI 只能帮忙给个思路。它写 spark 就经常有同一个问题会有不同的答案,也很麻烦。不过开发效率还是增加了。
    shiweifu
        2
    shiweifu  
       43 天前
    可以试试 golang ?这种带类型的编译语言,代码生成的问题更少。
    assassing
        3
    assassing  
       43 天前
    用来排错和生成测试代码还是挺好使,开发主导权不能交给 AI
    laizenan
        4
    laizenan  
       43 天前
    是的,一旦遇到复杂问题或者需要最新的知识来解决的问题,例如某个底层库的代码细节这种,AI 就开始胡编乱造了,即使给了文档和源代码也不行。一定要理解现阶段 LLM 只是一个语言模型,不会推理的事实,知识库是有限的。
    logic2
        5
    logic2  
       43 天前   ❤️ 6
    @laizenan 关键是知识库 可能还是错的,所以经常出现 AI 按命名规则给你编个看上去 还真的合理的 API
    512357301
        6
    512357301  
       43 天前 via Android
    换个思路,AI 是小弟,不是大佬,主要的思路、框架、核心代码还得自己来,AI 是辅助,在自己眼皮底下干点脏活累活,就是说本来自己也会干,但是懒得搞,就交给 AI 了。
    woodytang
        7
    woodytang  
       42 天前   ❤️ 1
    AI 只能帮你干力气活,不能代替你思考。
    NoOneNoBody
        8
    NoOneNoBody  
       42 天前
    现在已经摸索了出一套对 gpt-4o 的提问技巧了,已经没之前那么“愤怒控制障碍”了
    遇 bug 先去 google 一遍,找到六七个可能的原因,让 gpt 解释一下各种原因的出现场景,不用逐个试也能大概能缩小范围到 2~3 个
    Vegetable
        9
    Vegetable  
       42 天前
    当下 AI 并没有全程建立可靠系统的能力,然后还喜欢想象 API
    kongkongye
        10
    kongkongye  
    OP
       42 天前 via iPhone
    @512357301 对的,对于会的,ai 提效是很爽
    esile
        11
    esile  
       42 天前 via Android
    @shiweifu 代码多了就会乱生成
    zhangeric
        12
    zhangeric  
       42 天前
    现在的聊天 ai 实际上是个黑箱,里面的运行情况开发者都不清楚,所以输出的内容并不是百分百正确,需要使用者自己验证.
    kongkongye
        13
    kongkongye  
    OP
       42 天前
    @NoOneNoBody 最难解决的问题是没有报错输出的,只能描绘情况,比如卡住不动,那真的是难查。
    bthulu
        14
    bthulu  
       42 天前
    让 ai 自己去改 bug, 你不要去改, ai 才能理解 ai.
    Ackvincent
        15
    Ackvincent  
       42 天前
    ai 经常一本正经的胡说八道
    672795574
        16
    672795574  
       42 天前
    ai 最大的问题还是幻觉,不能把 ai 的回答当做事实,零经验利用 ai 生成的东西去满足客户不可取。
    比如律师问问题,他会回答自己编的案例和法律法规,如果你没经验去问他很容易被欺骗。
    但是如果你有了某些行业经验,ai 还是可以大大为你提升效率的。
    FengMubai
        17
    FengMubai  
       42 天前
    GPT 每次都是在赌博, 只不过它是个赌博高手, 赢得概率比较高
    woodfizky
        18
    woodfizky  
       42 天前
    幻觉问题一直都没法解决,所谓的"AI"没有自知之明,不知道自己哪个领域的是否掌握不足或者知识错误,自然也没办法判断输出给你的内容是不是对的。

    而且这是个在很多人身上都没解决的问题。

    另外还有一点,如果让人给你输出方案,一般多多少少会要求人承担一部分责任,所以人自然而然会出风险小的方案。
    你让"AI"给你出方案,出问题了你让"AI"负责或者惩罚它的方式都没有,那它就不会害怕出错方案。
    Spute
        19
    Spute  
       42 天前
    为啥
    woodytang
        20
    woodytang  
       42 天前
    你能告诉我用的是什么 AI 吗,用过 cursor 的话,你对 AI 写代码认识会有很大改变
    Spute
        21
    Spute  
       42 天前   ❤️ 2
    @Spute

    为啥 GitHub 的 AI 编码工具叫 Copilot ?如果 AI 主导那大概率翻车。因此 AI 只适合坐副驾驶。
    PerrYhaine
        22
    PerrYhaine  
       42 天前 via iPhone
    ai 做不了大框架的,只能在细节部分微操,相当于助手,主体还得你来,如果你连主体结构都做不了那 ai 也没法
    clino
        23
    clino  
       42 天前
    在判断实现是否符合目的满足需求上只能由人来做,这部分是目前 AI 无法完成的
    InkStone
        24
    InkStone  
       42 天前
    @woodytang cursor 面对复杂问题一样会进未知领域的。这种坑(甚至可能都算不上坑)我用 cursor 第一天就踩到了
    lekai63
        25
    lekai63  
       42 天前
    人需要做的工作是:把复杂问题拆解为若干个简单问题。

    期待能有个 AI ,把这个拆解问题的动作做了。。。
    aincvy
        26
    aincvy  
       42 天前
    @lekai63 #25 赞同, 我现在使用 claude 生成小东西 ,感觉很好用。 当我需要做一个比小更大一点的东西的时候, 我就需要自己规划结构, 然后让 cluade 一个部分一个部分的给我生成。

    总体来说,我得觉得提升的效率巨大, 多面手的手会变长不少。

    但是如果我需要提供 2000 个 token 给 ai, 然后只需要 400 个 token 的结果的时候, 我倾向于不使用 ai
    lovedebug
        27
    lovedebug  
       42 天前
    还是之前的判断:在一个领域,你需要达到这个领域的平均水平才能判断 AI 给出的回答质量好坏,才能助理自己。如果低于平局水平,AI 只能带入个门,过于依赖还可能进入错误的死胡同。
    GeekGao
        28
    GeekGao  
       42 天前
    ai 知识库 ? 那是幻觉的缘故。
    SmiteChow
        29
    SmiteChow  
       42 天前
    人工智障而已,不管是 cursor 还是 copilot ,不要以为它就是专家系统了,仍然是智障系统。
    EndlessMemory
        30
    EndlessMemory  
       42 天前
    这不是肯定吧,LLM 好多时候给出的代码都是错的
    yb2313
        31
    yb2313  
       42 天前
    把最新文档做出 rag 知识库外挂给 ai, 并且实时更新
    yb2313
        32
    yb2313  
       42 天前
    @shiweifu rust 才是最适合 ai 的, 报错提示很详细, ai 一下子就能修复, 写宏的除外
    ixixi
        33
    ixixi  
       42 天前
    应该发明一种编程语言与 ai 深度绑定 全新语言和框架 写代码变成写需求
    ztm0929
        34
    ztm0929  
       42 天前 via iPhone
    AI 自始至终都是“副驾驶”,Copilot 这名字取得还是有深度的,结对编程的本质就是一起思考一起提升效率实现代码,你完全不思考就产出代码还不是目前 AI 能做到的😂
    sunteccloud
        35
    sunteccloud  
       42 天前
    AI 智障
    yb2313
        36
    yb2313  
       42 天前
    @ixixi 这种语言就叫 productManager,简称 PM 吧, 我觉得让任何人一看就知道这个语言是做什么的
    prosgtsr
        37
    prosgtsr  
       42 天前 via iPhone
    所以还是得一点点写,一点点调试,在一个功能没问题之后再开发下一个功能,不然面对自己不了解的一大片代码,谁也不知道那是干啥的
    Yc1992
        38
    Yc1992  
       42 天前
    @yb2313 #32 以 rust 的很多库的更新频率 距离模型训练时候的接口早就变了 亲测 golang 最好用
    piero66
        39
    piero66  
       42 天前
    试试最新的 o1 ,实测解决复杂问题强太多了,想好编好 prompt 再问,一波搞定
    jqtmviyu
        40
    jqtmviyu  
       41 天前
    最怕 ai 拿着过时的文档开始乱编, 看起来是真的, 逻辑也没问题. 有点像打开 10 年前的 csdn, 你还以为它是最近写的.
    snitfk
        41
    snitfk  
       41 天前
    你换个角度想想,要是 AI 只要给他个想法他就能解决代码调试问题。你老板为什么要雇你?直接产品经理来接入不是更省钱?
    XinPingQiHe
        42
    XinPingQiHe  
       41 天前
    AI 只适合做助手,管事的得靠自己
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1869 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 16:19 · PVG 00:19 · LAX 09:19 · JFK 12:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.